非負稀疏信號分析理論及在文本聚類中的應用.pdf

1、文本聚類作為一種對大規(guī)模文本信息進行有效地組織、導航、檢索和概括匯總的關鍵的、基本的技術而日益受到關注，其主要目的是在語義空間里以無監(jiān)督的方式將文本集中的文本劃分成不同的類?；谖谋究臻g的文本聚類因為其具有高維的特征而不容易直接實現(xiàn)，所以文本聚類的首要步驟就是將文本空間的數(shù)據(jù)投影到較低維的語義空間里，使在文本空間里相鄰的數(shù)據(jù)向量在語義空間里根據(jù)某些提取的特征參數(shù)而相似。與PCA(主分量分析)和VQ(矢量量化)等降維算法不同，NMF(非負

2、矩陣分解)算法能夠分解出非負的，稀疏的特征矩陣和編碼矩陣，能夠提取原始數(shù)據(jù)向量的局部特征，使基于局部特征進行分類的聚類算法更容易實現(xiàn)。如果將一篇文檔看作是由許多文本主題組合而成，而文本主題與語義空間的特征向量相對應的話，則我們可以直接根據(jù)NMF算法所提取的特征向量及相對于特征向量各文檔的編碼向量將文本集劃分成不同的類。因此，NMF算法用于文本聚類的優(yōu)點就是可以直接利用其分解得到的編碼矩陣結合特征矩陣進行聚類操作。 本文主要采用S

3、NMF(非負稀疏矩陣分解)算法作為降維和提取特征向量的工具，該算法是在NMF算法的基礎上加上顯式地稀疏因子控制而形成的一種非負矩陣分解方法。同時采用球形k-平均算法和NNLS(非負最小平方差)算法的結果初始化SNMF算法以達到改進和優(yōu)化SNMF算法的目的；通過結合SNMF算法與LPI(局部保留索引)算法以實現(xiàn)在無監(jiān)督的方式下取得更準確聚類結果的算法。與基于NMF算法的文本聚類不同，我們的算法力求以無監(jiān)督的方式，在時間復雜度允許的范圍內，