基于Kinect深度數(shù)據(jù)輔助的機器人帶噪語音識別.pdf

1、隨著人機交互技術(shù)的發(fā)展，機器人越來越被期望擁有像人類一樣的感知能力，并能夠和人類合作共事。為了使人機交互更加自然，運動狀態(tài)下的機器人能夠語音識別是很有必要的。但是運動狀態(tài)下的機器人不可避免的產(chǎn)生一些噪聲，這種噪聲主要由機器人的風扇和馬達產(chǎn)生，稱為自身噪聲。相對于環(huán)境噪聲，自身噪聲更容易被獲取，而且具有非平穩(wěn)性和非定向性等特點，這將大大降低機器人語音識別效果。
　　通常有兩種方法來提升機器人自身噪聲下的語音識別效果。第一種是采用語音

2、抗噪技術(shù)，第二種是建立音視頻雙模態(tài)語音識別系統(tǒng)。然而第一種方法適合聲源定向以及穩(wěn)定的噪聲，而機器人噪聲具有非定向性和非平穩(wěn)性。第二種方法中，由于受說話者頭部旋轉(zhuǎn)、唇部尺寸不一、距攝像頭距離不固定以及光照等因素影響，使得唇部信息不能得到有效的全面表征。
　　為此，論文提出了融合機器人與Kinect的多模態(tài)語音識別系統(tǒng)。通過Kinect獲取3D數(shù)據(jù)和視覺信息，并通過3D數(shù)據(jù)重構(gòu)側(cè)唇，將其作為一種輔助言語信息來補充音視頻信息。論文首先建

3、立了一個基于機器人平臺的中文孤立詞多模態(tài)語音數(shù)據(jù)庫，包含深度數(shù)據(jù)，音頻數(shù)據(jù)和視頻數(shù)據(jù);其次利用Kinect獲取的3D數(shù)據(jù)與彩色圖像之間的對應(yīng)關(guān)系獲取視頻信息唇區(qū)，并通過DCT和PCA獲取特征向量，采用線性插值法匹配音視頻及3D數(shù)據(jù)的速率，歸一化操作使特征更加魯棒，以及基于幀間距離獲取動態(tài)特征;然后通過Kinect獲取的3D特征點重構(gòu)說話者左側(cè)唇和右側(cè)唇;最后，將側(cè)唇作為一種輔助言語信息和音視頻信息融合，通過一系列基于特征融合和決策融合方