基于維基百科的雙語語料挖掘技術研究.pdf

1、大規(guī)模雙語平行或可比較語料庫是構(gòu)建高質(zhì)量統(tǒng)計機器翻譯系統(tǒng)的重要基礎資源。目前大規(guī)模雙語語料庫的建設存在著很大的困難，在規(guī)模、時效性和領域平衡性等方面還不能滿足處理真實文本的需要。
　　 本文充分利用維基百科中大量存在的雙語平行或可比較資源，研究自動獲取的方法并驗證其有效性，從而獲取滿足雙語平行或可比較語料。
　　 從某個特定的網(wǎng)頁中，需要定義一種啟發(fā)式信息來概括這類多語種平行或可比較文本存在的共同特征，以此作為一個有效的

2、入口，來獲取我們關心的資源。維基百科中雙語平行或可比較資源是完全存在于兩個平行或可比較的單語網(wǎng)頁中。本文針對這種資源定義了有效的啟發(fā)式信息，從而很好地解決了大規(guī)模數(shù)據(jù)的來源問題。
　　 網(wǎng)絡作者在進行雙語平行或可比較網(wǎng)頁URL命名時往往具有一定的規(guī)律性。本文提出了一種自動發(fā)現(xiàn)一個具有URL命名規(guī)律性算法，從而從維基百科中找出盡可能多的可信的中英文候選網(wǎng)頁配比對。
　　 雙語平行或可比較的網(wǎng)頁文本不同于一般的雙語對照文本，

3、其中不僅存在有用的雙語對照信息，還存在一定的無關噪音信息等；此外，網(wǎng)頁文本中的詞匯量也大大超出任何一本雙語詞典的范圍。這些都造成了對雙語平行或可比較網(wǎng)頁進行句子對齊的難度。本文基于維基百科的網(wǎng)頁結(jié)構(gòu)，充分利用雙語平行或可比較網(wǎng)頁HTML結(jié)構(gòu)相似性這一優(yōu)點，提出了一種基于標簽序列最長公共子串的DOM樹對齊改進算法的雙語平行或可比較句對的抽取技術，從而取得到了很好的效果。
　　 最后，我們實現(xiàn)了上述三個方面的技術，搭建了一個可以在維