依存語言模型在信息檢索中的應(yīng)用研究.pdf

1、統(tǒng)計語言模型是上世紀(jì)80年代興起的語言建模方法.經(jīng)過20多年的發(fā)展,它已經(jīng)滲透到了計算語言學(xué)的各個層面,并且在以下各個領(lǐng)域都取得了極大的成功,如語音識別、手寫識別、機(jī)器翻譯、信息檢索、中文自動分詞、亞洲語言輸入等.然而傳統(tǒng)意義上的統(tǒng)計語言模型,也即n-gram模型,僅僅考慮了先后相鄰的n個詞之間的關(guān)系,即依據(jù)前面已經(jīng)出現(xiàn)的詞來預(yù)測下一個要出現(xiàn)的詞,這樣,在構(gòu)建模型時便丟失了許多有用的信息,如詞法關(guān)系、詞之間的組合、共現(xiàn)信息及其鄰接關(guān)系信

2、息等,導(dǎo)致模型性能下降.該文提出了一種新穎的通過依存語言模型進(jìn)行信息檢索的方法,該方法在Unigram模型的基礎(chǔ)上,引進(jìn)詞匯之間的鏈接關(guān)系作為其依存信息,并用于語言模型構(gòu)建過程中.我們認(rèn)為,句子里詞與詞之間的所有鏈接關(guān)系形成了無向、無環(huán)的平面圖,基于此,文檔生成查詢的過程可分為兩個步驟:首先是生成詞與詞之間的鏈接關(guān)系,其次,根據(jù)鏈接關(guān)系產(chǎn)生具體的詞.同時,該文還解決了傳統(tǒng)依存模型中存在的依存關(guān)系表征及其規(guī)范化的問題.在語言模型訓(xùn)練過程中