篇章級(jí)聯(lián)想模型的研究與實(shí)現(xiàn).pdf

1、隨著自然語言處理和文本挖掘技術(shù)推陳出新，快速發(fā)展，人們的需求也日益升級(jí)，給搜索引擎、深度問答等應(yīng)用帶來了新的挑戰(zhàn)和機(jī)遇，對(duì)文本處理技術(shù)提出了更高的要求。應(yīng)對(duì)挑戰(zhàn)的方法主要是精準(zhǔn)的語義分析技術(shù)。在現(xiàn)有的語義分析研究中，主要針對(duì)詞匯級(jí)別、短語級(jí)別和句子級(jí)別的語義進(jìn)行深入挖掘，篇章級(jí)別的語義分析研究目前尚未成熟。本文從篇章級(jí)別的語義分析角度出發(fā)，通過引入篇章外部的信息對(duì)文本內(nèi)容進(jìn)行補(bǔ)充，彌補(bǔ)計(jì)算機(jī)對(duì)篇章內(nèi)容相關(guān)背景信息的缺乏這一問題，更好的完

2、成篇章的語義分析。
　　本文針對(duì)外部信息引入文本內(nèi)部這一問題提出了三種模型，統(tǒng)稱為聯(lián)想模型，分別是基于序列迭代的聯(lián)想模型、基于權(quán)重傳播的聯(lián)想模型和融合句間關(guān)系的聯(lián)想模型。聯(lián)想模型的設(shè)計(jì)結(jié)合了認(rèn)知心理學(xué)和人類的閱讀習(xí)慣、思維習(xí)慣以及信息檢索領(lǐng)域經(jīng)典算法，實(shí)現(xiàn)了對(duì)大量外部信息進(jìn)行篩選，挑選出與文本語義更契合的一部分外部信息引入文本中。在引入外部信息之余，本文還將引入的外部信息應(yīng)用在文本分類這一傳統(tǒng)任務(wù)上，和未加入外部信息的方法相比取得

3、了更好的結(jié)果。
　　聯(lián)想模型主要包含文本表示、知識(shí)表示和模型算法這三個(gè)方面。在文本表示方面結(jié)合認(rèn)知心理學(xué)中的“可教的語言理解者”（Teachable-Language Comprehender，簡稱TLC）模型設(shè)計(jì)出了基于序列迭代的聯(lián)想模型，結(jié)合“激活擴(kuò)散模型”設(shè)計(jì)出了基于權(quán)重傳播的聯(lián)想模型。此外本文還關(guān)注到了篇章內(nèi)部結(jié)構(gòu)對(duì)引入外部信息的重要性，結(jié)合篇章結(jié)構(gòu)分析中的句間關(guān)系識(shí)別和中文上主流的CDTB語料庫，利用簡便易行的句間關(guān)系識(shí)

4、別方法，識(shí)別篇章結(jié)構(gòu)，并將篇章的結(jié)構(gòu)信息加入文本表示方案中，提出了融合句間關(guān)系的聯(lián)想模型。
　　在知識(shí)表示方面，本文采用目前大型語義知識(shí)庫通用的三元組的表示方法，利用“Argument-Relation-Argument”這樣的三元組表示知識(shí)概念。通過隱含狄利克雷（LDA）模型對(duì)詞進(jìn)行向量化，并將詞向量整合成三元組的向量表示，最后將三元組表示為連續(xù)的實(shí)數(shù)向量的形式。
　　在模型算法方面，文本結(jié)合了序列模型和圖模型這兩種經(jīng)典模