基于半監(jiān)督學(xué)習(xí)的統(tǒng)計機器翻譯研究.pdf

1、互聯(lián)網(wǎng)的飛速發(fā)展所產(chǎn)生的越來越多的雙語數(shù)據(jù),使得基于統(tǒng)計的機器翻譯( SMT)成為了機器翻譯領(lǐng)域的主流方法。然而相比已標注數(shù)據(jù)(雙語句對,詞對齊結(jié)果等),可用于統(tǒng)計機器翻譯的未標注數(shù)據(jù)(單語的句子,未標注對齊的雙語句對等)更容易獲得,其數(shù)量也遠遠大于已標注的數(shù)據(jù)。如何利用未標注數(shù)據(jù)提高統(tǒng)計機器翻譯的質(zhì)量成為一個熱門的研究方向。半監(jiān)督的學(xué)習(xí)方法,能夠利用未標注數(shù)據(jù)參與模型的訓(xùn)練和優(yōu)化,提高統(tǒng)計模型的性能,在SMT中的應(yīng)用也越來越受到重視。

2、本篇博士論文將深入地研究如何將半監(jiān)督的學(xué)習(xí)方法(包括自學(xué)習(xí)、互學(xué)習(xí)和基于圖的學(xué)習(xí))應(yīng)用于統(tǒng)計機器翻譯的各個階段(包括詞匯對齊、規(guī)則抽取,特征權(quán)重訓(xùn)練、翻譯重排序和解碼),提高統(tǒng)計機器翻譯的質(zhì)量。論文組織如下:
　　1.針對基于反向轉(zhuǎn)換文法詞匯對齊中的1-1對齊約束,本文通過引入短語對和層次短語對提出了增強的反向轉(zhuǎn)換文法,并使用半監(jiān)督訓(xùn)練方法來訓(xùn)練對數(shù)線性模型中的特征值和特征權(quán)重,以提高基于反向轉(zhuǎn)換文法的詞匯對齊的性能,從而可以抽取

3、更為準確的翻譯規(guī)則,提高SMT的性能。
　　2.針對基于句法的SMT(SSMT)的規(guī)則抽取中詞匯對齊和句法分析不一致的問題,本文提出了基于邊界集的目標化自學(xué)習(xí)方法和基于強制對齊的重訓(xùn)練方法,來利用詞對齊信息修正句法分析結(jié)果中的錯誤,從而改善了翻譯規(guī)則的質(zhì)量,提高了SSMT的性能。
　　3.針對特征權(quán)重訓(xùn)練中的領(lǐng)域適應(yīng)問題,本文提出了基于最小貝葉斯風(fēng)險的自學(xué)習(xí)和互學(xué)習(xí)方法。為解決自學(xué)習(xí)和互學(xué)習(xí)訓(xùn)練過程中的不穩(wěn)定現(xiàn)象,本文使用了

4、基于最小貝葉斯風(fēng)險的句子級系統(tǒng)融合方法來選擇合適的翻譯候選參與自學(xué)習(xí)和互學(xué)習(xí)的訓(xùn)練,顯著地提高了目標領(lǐng)域上的翻譯性能。
　　4.針對翻譯結(jié)果的一致性問題(即相似的輸入句子應(yīng)該得到相似的翻譯結(jié)果),本文使用了基于圖的半監(jiān)督方法,將SMT看做結(jié)構(gòu)學(xué)習(xí)問題,并針對該問題提出了結(jié)構(gòu)化的標記傳播算法。本文進一步地將結(jié)構(gòu)化標記傳播算法獲得的一致置信度作為特征,應(yīng)用于常用的對數(shù)線性模型中,將該模型應(yīng)用于SMT的重排序和解碼,提高了SMT的性能。