短文本文檔建模及查詢擴展方法研究.pdf

1、隨著計算機和網(wǎng)絡(luò)Internet的迅猛發(fā)展，從海量的信息資源中精確地獲取信息變得越來越困難。海量信息中有很大一部分是以短文本的形式存在，同時短文本也是人們在日常生活中所必不可少的一種數(shù)據(jù)形式。短文本信息主要包括博客留言，微博信息，短信息，聊天記錄等。其特點是信息長度短、語言形式靈活、數(shù)據(jù)規(guī)模大、時效性強、更新速度快。傳統(tǒng)的文本挖掘方法沒有考慮這些特點，不能夠滿足人們從大量短文本中準確獲取信息的需要。因此發(fā)明并實現(xiàn)一種更為適合短文本信息的

2、建模方法，具有重要的理論價值和實踐意義。本文具體研究工作如下:
　　(1)提出一種更為適合短文本領(lǐng)域的文檔建模方法，有助于提高短文本相關(guān)自然語言處理任務(wù)的準確度。使用三層置信網(wǎng)絡(luò)能量模型，融合詞向量信息，同時學(xué)習(xí)文檔在線性空間與非線性空間下的向量表達，從而將短文本映射成文本向量的形式。本文提出一種深層受限波爾茲曼機模型，模型中加入詞向量信息，豐富了短文本數(shù)據(jù)的語義信息，可以更準確地對短文本文檔進行抽象表達。在公開的三個數(shù)據(jù)集上，使

3、用得到的短文本線性表達與非線性表達進行文檔分類與文檔檢索任務(wù)，均得到了令人滿意的結(jié)果，提高了短文本數(shù)據(jù)在此類任務(wù)上的準確率。
　　(2)提出一種使用詞向量對檢索詞進行意圖識別的查詢擴展方法。利用深度學(xué)習(xí)訓(xùn)練得到的詞向量具有線性關(guān)系的特性，結(jié)合文檔建模方法中得到的單詞權(quán)重，提出一種從全局角度進行查詢擴展的方法。本文重點分析了偽相關(guān)反饋查詢擴展方法與詞向量查詢擴展方法的不同，比較它們各自的優(yōu)勢與局限性。在新浪微博語料集上進行檢索實驗，