依存語(yǔ)言模型在信息檢索中的應(yīng)用研究.pdf

1、統(tǒng)計(jì)語(yǔ)言模型是上世紀(jì)80年代興起的語(yǔ)言建模方法.經(jīng)過(guò)20多年的發(fā)展,它已經(jīng)滲透到了計(jì)算語(yǔ)言學(xué)的各個(gè)層面,并且在以下各個(gè)領(lǐng)域都取得了極大的成功,如語(yǔ)音識(shí)別、手寫(xiě)識(shí)別、機(jī)器翻譯、信息檢索、中文自動(dòng)分詞、亞洲語(yǔ)言輸入等.然而傳統(tǒng)意義上的統(tǒng)計(jì)語(yǔ)言模型,也即n-gram模型,僅僅考慮了先后相鄰的n個(gè)詞之間的關(guān)系,即依據(jù)前面已經(jīng)出現(xiàn)的詞來(lái)預(yù)測(cè)下一個(gè)要出現(xiàn)的詞,這樣,在構(gòu)建模型時(shí)便丟失了許多有用的信息,如詞法關(guān)系、詞之間的組合、共現(xiàn)信息及其鄰接關(guān)系信

2、息等,導(dǎo)致模型性能下降.該文提出了一種新穎的通過(guò)依存語(yǔ)言模型進(jìn)行信息檢索的方法,該方法在Unigram模型的基礎(chǔ)上,引進(jìn)詞匯之間的鏈接關(guān)系作為其依存信息,并用于語(yǔ)言模型構(gòu)建過(guò)程中.我們認(rèn)為,句子里詞與詞之間的所有鏈接關(guān)系形成了無(wú)向、無(wú)環(huán)的平面圖,基于此,文檔生成查詢(xún)的過(guò)程可分為兩個(gè)步驟:首先是生成詞與詞之間的鏈接關(guān)系,其次,根據(jù)鏈接關(guān)系產(chǎn)生具體的詞.同時(shí),該文還解決了傳統(tǒng)依存模型中存在的依存關(guān)系表征及其規(guī)范化的問(wèn)題.在語(yǔ)言模型訓(xùn)練過(guò)程中