文本分類中特征提取相關(guān)技術(shù)研究與實現(xiàn).pdf

1、近二十年來，隨著科學(xué)技術(shù)的發(fā)展，人們產(chǎn)生和收集數(shù)據(jù)的能力迅速提高，數(shù)據(jù)的規(guī)模急劇增加，數(shù)據(jù)的復(fù)雜性、異構(gòu)性、動態(tài)性顯著提高。傳統(tǒng)的統(tǒng)計分析技術(shù)已無法滿足現(xiàn)代數(shù)據(jù)處理的要求。人們渴求一種新的工具，能夠自動分析和整理龐大和復(fù)雜的數(shù)據(jù)，從中挖掘有價值的信息，為決策提供充分的支持。面對這一要求，文本分類技術(shù)應(yīng)運而生。
　　 文本分類作為處理和組織大量文本數(shù)據(jù)的關(guān)鍵技術(shù)，可以在很大程度上解決信息的雜亂問題，對于信息的高效管理和有效利用都具

2、有極其重要的意義，并且已成為數(shù)據(jù)挖掘、信息檢索等領(lǐng)域中一個重要的研究方向。
　　 本文主要對特征選取和集成分類器兩個方面展開研究。
　　 (1)特征選取。特征選擇是一種從數(shù)以萬維特征詞的文本中挑選具有代表性特征詞的技術(shù)。本文對基于互信息的特征選擇技術(shù)做了深入全面的研究。為解決互信息(MI)在特征選取中的類別缺失和傾向低頻詞問題，提出LDA-σ方法。該方法使用潛在狄利克雷分配模型(LDA)提取潛在主題，以“詞-主題”間互信

3、息的標(biāo)準(zhǔn)差作為特征評估函數(shù)。在Reuters-21578語料集上提取特征詞并進行分類，LDA-σ方法的微平均F1最高達(dá)0.9096；宏平均F1優(yōu)于其他算法，最高達(dá)0.7823。實驗表明，LDA-σ方法可用于文本特征選取。
　　 (2)分類器改進。針對BP神經(jīng)網(wǎng)絡(luò)在文本分類中準(zhǔn)確率較低和參數(shù)設(shè)置困難的問題，提出GABP_Adaboost算法。該算法使用Adaboost算法級聯(lián)多個遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)，實現(xiàn)一個無參數(shù)的“強”分