基于支持向量機(jī)的文本自動分類器的研究與應(yīng)用.pdf

1、文本自動分類是指根據(jù)文本分類體系，通過對文本進(jìn)行挖掘與分析，自動地決策文本歸屬類別的過程。隨著數(shù)字信息量的迅速增長，越來越多的領(lǐng)域需要應(yīng)用到文本自動分類技術(shù)，如數(shù)字圖書館、電子會議、信息檢索與過濾、文本分類等，如何構(gòu)建有效的文本自動分類器是機(jī)器學(xué)習(xí)領(lǐng)域的一個研究熱點(diǎn)。
　　 支持向量機(jī)是基于統(tǒng)計學(xué)習(xí)理論的結(jié)構(gòu)風(fēng)險最小化原理和VC維理論基礎(chǔ)上發(fā)展起來的一種機(jī)器學(xué)習(xí)方法，通過轉(zhuǎn)化為二次規(guī)劃問題求得一個全局最優(yōu)解，能夠有效解決小樣本、

2、非線性及高維模式識別的問題，有效克服了“維數(shù)災(zāi)難”問題，具有很好的學(xué)習(xí)能力和泛化能力。文本分類具有樣本向量稀疏、維數(shù)高，訓(xùn)練集越大，存在的“噪音”樣本相對越多，一般不能在低維特征空間中線性可分的特點(diǎn)，本文提出將支持向量機(jī)與文本自動分類器相結(jié)合，以解決文本自動分類中維數(shù)龐大、線性不可分和分類性能不高的問題。
　　 本文在研究了文本分類技術(shù)和支持向量機(jī)算法的基礎(chǔ)上，根據(jù)文本分類過程，首先對輸入文本進(jìn)行分詞，去掉文本中的無用詞條，然后

3、統(tǒng)計詞條在文本集中的相關(guān)數(shù)據(jù)，利用卡方統(tǒng)計量方法進(jìn)行特征選擇，TF-IDF方法計算特征項的權(quán)重，再根據(jù)文本的特征項和權(quán)重數(shù)據(jù)，把文本表示成向量模型，最后，結(jié)合不同核函數(shù)的優(yōu)勢和特點(diǎn)，選擇具有強(qiáng)大內(nèi)推能力和局部性強(qiáng)的Gauss核函數(shù)，設(shè)定參數(shù)σ為0.4，C為100，在特征向量空間中利用支持向量機(jī)算法求解訓(xùn)練樣本的分類函數(shù)，得到文本的分類模型。
　　 同時，本文構(gòu)建了一種SVM分類器的優(yōu)化訓(xùn)練方法：根據(jù)訓(xùn)練集文本與測試集文本之間的互