非均衡文本分類(lèi)的特征選擇研究.pdf

1、本文圍繞非均衡文本分類(lèi)中的關(guān)鍵性問(wèn)題——非均衡文本分類(lèi)特征選擇展開(kāi)研究論述，結(jié)合文獻(xiàn)調(diào)研，總結(jié)出非均衡文本分類(lèi)特征選擇的特殊性和亟待解決的難題就是要在不降低整個(gè)文本數(shù)據(jù)集上分類(lèi)效果的前提下，通過(guò)特征選擇提高在小類(lèi)別上的分類(lèi)精度。
　　 文中主要對(duì)兩種適合非均衡文本特征選擇的算法（DFICF算法和類(lèi)條件MI算法）進(jìn)行具體分析，總結(jié)各自算法的優(yōu)點(diǎn)，同時(shí)指出存在的不足:
　　 1.DFICF算法一方面重點(diǎn)考慮到高頻詞條的DF值

2、較高，能夠保證整個(gè)數(shù)據(jù)集上攜帶較多文本信息的大多數(shù)高頻詞條被選進(jìn)特征子集，另方面考慮到非均衡文本集中小類(lèi)別文本數(shù)量少的問(wèn)題，引入ICF評(píng)價(jià)指標(biāo)，使得特征選擇算法也傾向于那些小類(lèi)別中的低頻詞條。DFICF算法平衡了既要選高頻詞條又要選低頻詞條之間的矛盾。但是，DFICF算法本身受到訓(xùn)練文本集的類(lèi)別數(shù)目和類(lèi)別間數(shù)量分布的約束，對(duì)訓(xùn)練文本集文本總量、類(lèi)別間分布情況和類(lèi)別總數(shù)數(shù)量上變化是敏感的。
　　 2.類(lèi)條件MI算法不僅考慮了訓(xùn)練樣

3、本的類(lèi)別分布狀況，將類(lèi)別因素考慮進(jìn)去，而且考慮了特征出現(xiàn)時(shí)訓(xùn)練樣本的分布狀況。該方法能夠改善樣本分布不均勻?qū)バ畔⒌挠绊?。該特征選擇算法，計(jì)算復(fù)雜度較高。當(dāng)要計(jì)算某個(gè)特征與每個(gè)類(lèi)別的相關(guān)度的時(shí)候，如果不同類(lèi)別間的文本數(shù)量處于不同數(shù)量級(jí)的時(shí)候，p(cj)和p(cj|ti)的差異也很大。這樣的特征選擇方案試圖犧牲整體的分類(lèi)精度來(lái)提高局部的分類(lèi)精度。
　　 文中另一個(gè)研究重點(diǎn)在于針對(duì)已有的非均衡特征選擇算法的不足，提出改進(jìn)意見(jiàn)，綜合三