基于自適應(yīng)的LVCSR系統(tǒng)半監(jiān)督學(xué)習(xí)方法的研究.pdf

1、語(yǔ)音識(shí)別技術(shù)日趨成熟，但仍然存在一系列難題有待解決，尤其是大詞表連續(xù)語(yǔ)音識(shí)別(LVCSR)技術(shù)，在識(shí)別速度、識(shí)別正確率、系統(tǒng)頑健性等能力上還遠(yuǎn)遠(yuǎn)沒有達(dá)到盡善盡美。特別是在聲學(xué)模型的訓(xùn)練方面，最常用的手段就是使用人工標(biāo)注的數(shù)據(jù)來訓(xùn)練聲學(xué)模型，這樣的方法需要大量的標(biāo)注數(shù)據(jù)，而人工標(biāo)注這些數(shù)據(jù)需要耗費(fèi)大量的金錢和時(shí)間；因此提出了一個(gè)新的半監(jiān)督學(xué)習(xí)方法—分階段半監(jiān)督學(xué)習(xí)，來訓(xùn)練聲學(xué)模型。
　　分階段半監(jiān)督學(xué)習(xí)僅需要小部分的人工標(biāo)注數(shù)據(jù)來初

2、始化聲學(xué)模型參數(shù)，然后加載模型去識(shí)別大量的未標(biāo)注數(shù)據(jù)；數(shù)據(jù)篩選策略對(duì)識(shí)別結(jié)果進(jìn)行分析，然后合成最優(yōu)的結(jié)果作為標(biāo)注數(shù)據(jù)，重復(fù)進(jìn)行訓(xùn)練。依據(jù)這種新的半監(jiān)督學(xué)習(xí)方法建立了自動(dòng)標(biāo)注語(yǔ)料系統(tǒng)(ALCS)。
　　和一般的獲取標(biāo)注數(shù)據(jù)來訓(xùn)練聲學(xué)模型的方法相比，分階段半監(jiān)督學(xué)習(xí)有以下幾個(gè)優(yōu)勢(shì)：它僅僅選取一部分詞頻分布均勻和具有代表性的人工標(biāo)注數(shù)據(jù)來初始化模型參數(shù)，避免了繁重、枯燥的語(yǔ)料標(biāo)注工作；它構(gòu)建了一個(gè)自適應(yīng)的識(shí)別單元，能根據(jù)工作環(huán)境和待識(shí)別

3、的數(shù)據(jù)自發(fā)的調(diào)整模型的參數(shù)，所以系統(tǒng)有好的識(shí)別性能和適應(yīng)性；人工標(biāo)注數(shù)據(jù)一般僅能達(dá)到有調(diào)音節(jié)的層次，系統(tǒng)能夠自動(dòng)標(biāo)注到音素級(jí)別，能夠滿足更高標(biāo)注精度的需求，實(shí)現(xiàn)了精細(xì)標(biāo)注；持續(xù)學(xué)習(xí)能力對(duì)于半監(jiān)督學(xué)習(xí)是至關(guān)重要的，只要系統(tǒng)能不斷地得到未標(biāo)注的數(shù)據(jù)，就能持續(xù)不斷地學(xué)習(xí)、標(biāo)注和訓(xùn)練模型，從而不斷地提升系統(tǒng)性能。
　　實(shí)驗(yàn)結(jié)果證明，這種新的半監(jiān)督學(xué)習(xí)方法在自動(dòng)標(biāo)注語(yǔ)料、訓(xùn)練模型方面有良好的表現(xiàn)，用這種半監(jiān)督學(xué)習(xí)方法訓(xùn)練出來的聲學(xué)模型來對(duì)測(cè)