基于SVM的文本分類系統(tǒng)中特征選擇與.pdf

1、近年來，隨著互聯(lián)網(wǎng)技術(shù)的飛快發(fā)展，人們已經(jīng)從信息較為缺乏的時代過渡到信息豐富的數(shù)字化時代。面對如此龐大的電子信息，如何在較短的時間內(nèi)獲取對用戶有用的信息也就成為當(dāng)前的一個研究熱點。文本分類技術(shù)是數(shù)據(jù)挖掘領(lǐng)域中的一項關(guān)鍵技術(shù)，它能夠幫助用戶快速、準確地定位所需要的信息。同時該技術(shù)作為信息過濾和搜索引擎的基礎(chǔ)，有著廣泛的發(fā)展前景，能夠為社會帶來巨大的經(jīng)濟效益。文本分類的任務(wù)是將待分類的文本對象根據(jù)其具體內(nèi)容自動劃分到事先設(shè)置的類別內(nèi)。它的研

2、究內(nèi)容主要包括文本預(yù)處理、特征選擇、特征項權(quán)重計算、文本表示、分類器的訓(xùn)練與測試以及分類性能評價六個模塊。其中特征選擇和權(quán)重計算在文本分類技術(shù)中有著非常關(guān)鍵的作用。
　　 本研究主要內(nèi)容包括：⑴特征選擇的目的是從原始的高維特征空間中，選取出對分類貢獻程度大的特征來表示文本。經(jīng)典的特征選擇算法在統(tǒng)計特征項和類別之間的關(guān)聯(lián)性信息時，僅僅考慮了特征項對文本分類的能力，卻沒有考慮特征項之間的相關(guān)性信息，因此使得具有同義或近義現(xiàn)象的特征項

3、都被選擇出來表示文本，降低了分類的準確度。鑒于此缺點，本文提出了一種新的特征選擇算法----組合特征選擇算法。該算法首先通過文本證據(jù)權(quán)重方法選擇出一些對文本分類貢獻程度大的特征項；其次通過互信息方法刪減了一些在文本分類方面有冗余信息的特征項。⑵經(jīng)典的TP-IDF權(quán)重計算方法只考慮了特征詞頻率TF和反比文檔頻率IDF，沒有考慮特征項的類別分布和位置分布對分類的影響。因此本文在經(jīng)典權(quán)重算法TF-IDF的基礎(chǔ)上，結(jié)合特征詞的類別分布與位置分布