基于無指導的詞聚類及在文本聚類中應用的研究.pdf

1、詞的分類問題是語言學和自然語言處理中十分重要的研究問題。由一些語義相近的詞組成的詞類(或詞聚簇)可以看成是紛繁的個別詞現(xiàn)象到語言的一般概念的映射，而這些概念是更加本質的，更具有一般性和穩(wěn)定性。目前，詞分類的主要方法包括兩類：一類是基于語言學家的主觀判斷，通過語言學家手工地構造出分類詞典，給出每個詞的同義詞或近義詞；另一類是基于機器的自動聚類。本文研究的主要內(nèi)容就是基于無指導的漢語詞聚類及其相關應用?；跓o指導的詞聚類是通過在大規(guī)模的語料

2、庫中統(tǒng)計詞的上下文信息，并利用傳統(tǒng)的聚類算法最終實現(xiàn)詞的自動聚類。 傳統(tǒng)的聚類算法主要分為層次聚類和劃分聚類兩種方法。劃分聚類算法是一種局部最優(yōu)算法，初始點選擇的好壞嚴重影響聚類性能。因此，本文在詞聚類這一具體任務中，利用詞在文本類別中的分布提出了一種新的初始點選取方法，實驗結果顯示其有效地改善了劃分法詞聚類系統(tǒng)的性能；層次聚類算法的主要不足是聚類過程中已做的處理不能被撤銷，類之間也不能交換對象，一旦一組對象被合并或者分裂，而后

3、進行的處理將在新生成的類上進行。因此，類間距離計算的準確程度是影響層次聚類性能改善的最重要因素。本文提出了一種新的用于計算類間距離方法K-LinK。該方法通過有效地利用類的形狀、密度等重要信息提高類間距離的準確性，由此改善層次聚類算法的性能。 本文通過對實驗結果的分析，討論了上下文窗口大小對詞聚類結果的影響；討論了特征選擇、權重計算對聚類結果的影響；討論了相似度計算方法、聚類算法對性能的影響。在此基礎上確定了聚類過程中的相關參數(shù)