面向連續(xù)語(yǔ)音識(shí)別的半監(jiān)督學(xué)習(xí)方法的研究.pdf

1、語(yǔ)音識(shí)別技術(shù)日趨成熟，但仍存在一系列難題亟待解決。其中較為突出的是：對(duì)數(shù)據(jù)的標(biāo)注成本高、耗時(shí)長(zhǎng)，想獲得大量的標(biāo)注數(shù)據(jù)十分困難，而另一方面，卻很容易獲得大量的未標(biāo)注數(shù)據(jù)。這種情況下，半監(jiān)督學(xué)習(xí)是一種有效的學(xué)習(xí)方法，能夠充分利用所有這些數(shù)據(jù)來(lái)得到較好的訓(xùn)練結(jié)果。
　　本文主要研究連續(xù)語(yǔ)音識(shí)別中的半監(jiān)督學(xué)習(xí)方法，著眼于對(duì)聲學(xué)模型的性能的改進(jìn)。針對(duì)經(jīng)典的F.Wessel與H.Ney方法中的句子內(nèi)濾除法會(huì)帶來(lái)系統(tǒng)性能下降這個(gè)問(wèn)題，本文提出一

2、種自學(xué)習(xí)與確認(rèn)相結(jié)合的策略，可以有效地提高聲學(xué)模型的性能，在僅使用100句語(yǔ)料（約合20分鐘）作為初始訓(xùn)練集的情況下，系統(tǒng)對(duì)測(cè)試集的識(shí)別率相對(duì)平均提高了4.9％?？紤]到高置信度數(shù)據(jù)分布的集中性，文中同時(shí)使用高低置信度數(shù)據(jù)來(lái)訓(xùn)練系統(tǒng)，相比于僅應(yīng)用高置信度數(shù)據(jù)的方法，系統(tǒng)對(duì)測(cè)試集的識(shí)別率平均提高了1.4%左右。另外，文中還嘗試使用信息熵來(lái)進(jìn)行數(shù)據(jù)篩選。根據(jù)最大熵原理，每次選擇熵最大的數(shù)據(jù)加入到訓(xùn)練集中，實(shí)驗(yàn)表明依據(jù)信息熵進(jìn)行數(shù)據(jù)篩選的半監(jiān)督