非平衡模糊支持向量機(jī)分類算法研究.pdf

1、支持向量機(jī)是目前比較流行的機(jī)器學(xué)習(xí)算法,可以較好地解決小樣本、非線性和局部極小點(diǎn)等實(shí)際問題,并且能夠高效地處理平衡數(shù)據(jù)集分類問題。然而,對于非平衡數(shù)據(jù)集,SVM產(chǎn)生的分類模型偏向多數(shù)類。由于SVM算法對于數(shù)據(jù)集中的孤立點(diǎn)和隨機(jī)噪聲比較敏感,盡管現(xiàn)在已有的類非平衡學(xué)習(xí)方法能使SVM對類非平衡問題的敏感性減弱,但是仍然面臨著隨機(jī)噪聲和孤立點(diǎn)的問題。而且SVM學(xué)習(xí)過程中需要調(diào)整一些參數(shù),模型學(xué)習(xí)消耗時(shí)間較長。
　　本文針對上述問題首先對

2、面向非平衡數(shù)據(jù)的模糊聚類方法進(jìn)行分析,在樣本集非平衡程度不是太大時(shí),采用基于核的可能性模糊C-均值聚類算法KPFCM對非平衡數(shù)據(jù)集進(jìn)行聚類,典型值和模糊隸屬度值的協(xié)調(diào)作用可以提升算法對樣本非平衡的健壯性以及對隨機(jī)噪聲的魯棒性。同時(shí),本文給出一種高斯核參數(shù)優(yōu)化方法,用于核聚類的參數(shù)選取。在樣本非平衡比例較大情況下,針對模糊聚類中心嚴(yán)重偏移的問題,本文將過采樣技術(shù)與 KFCM模糊聚類算法相結(jié)合來處理非平衡數(shù)據(jù)模糊聚類。
　　其次,在面

3、向非平衡數(shù)據(jù)的模糊聚類方法分析的基礎(chǔ)上,提出了一種基于核聚類KPFCM的非平衡模糊支持向量機(jī)分類算法FPSVM-CIL,實(shí)現(xiàn)存在隨機(jī)噪聲以及孤立樣本的非平衡數(shù)據(jù)分類問題。算法通過為核聚類的模糊隸屬度和典型值設(shè)置閾值減小樣本集的非平衡比例,然后將核聚類得到的隸屬度和類非平衡學(xué)習(xí)的不同懲罰系數(shù)線性組合作為模糊隸屬度值引入到模糊支持向量機(jī)模型中。在人工數(shù)據(jù)集和真實(shí)數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果表明,FPSVM-CIL算法對于非平衡樣本集具有很好的分類性能,

4、對于隨機(jī)噪聲也具有很好的魯棒性。
　　最后,針對支持向量機(jī)算法學(xué)習(xí)過程耗時(shí)較長的問題,在對支持向量機(jī)和極速學(xué)習(xí)機(jī)模型分析的基礎(chǔ)上,利用極速學(xué)習(xí)機(jī)模型學(xué)習(xí)速度較快的優(yōu)點(diǎn),提出了一種非平衡模糊支持向量機(jī)近似方法ELM-CIL。ELM-CIL方法對傳統(tǒng)極速學(xué)習(xí)機(jī)模型進(jìn)行改進(jìn),根據(jù)樣本分布情況在模型中引入不同的模糊值及懲罰系數(shù)。實(shí)驗(yàn)表明,ELM-CIL算法在保證非平衡樣本集中少數(shù)類的分類精度與FPSVM-CIL算法相當(dāng)?shù)那疤嵯?同時(shí)加快了