基于隨機(jī)子空間的SVM分類(lèi)算法研究.pdf

1、支持向量機(jī)是在堅(jiān)實(shí)理論基礎(chǔ)上發(fā)展起來(lái)的一種機(jī)器學(xué)習(xí)方法，它能很好的解決關(guān)于小樣本、非線性、高維度、局部極小等類(lèi)似問(wèn)題。目前，支持向量機(jī)作為一種有潛力的分類(lèi)技術(shù)，在數(shù)據(jù)分類(lèi)方面得到了廣泛的應(yīng)用和研究。但早期提出的基于支持向量機(jī)的數(shù)據(jù)分類(lèi)方法，在解決海量數(shù)據(jù)分類(lèi)特別是不平衡的數(shù)據(jù)分類(lèi)時(shí)會(huì)出現(xiàn)很多問(wèn)題，嚴(yán)重影響著數(shù)據(jù)分類(lèi)算法的計(jì)算效率和準(zhǔn)確度。
　　隨機(jī)子空間方法是為了適應(yīng)特征數(shù)據(jù)篩選的挑戰(zhàn)，其思想就是從大量特征數(shù)據(jù)中選出真正需要的特征

2、，以降低數(shù)據(jù)集的特征維度或平衡特征分布，它對(duì)數(shù)據(jù)預(yù)處理方面有著突出的貢獻(xiàn)。對(duì)此，論文提出基于隨機(jī)子空間的SVM分類(lèi)算法研究，主要的研究工作分為以下兩個(gè)方面：
　　1．基于隨機(jī)特征子空間及加權(quán)核函數(shù)的SVM算法
　　結(jié)合隨機(jī)子空間和核函數(shù)思想，提出基于隨機(jī)特征子空間及加權(quán)核函數(shù)的SVM算法。首先通過(guò)采用ReliefF算法計(jì)算特征權(quán)值，然后基于隨機(jī)特征子空間方法，根據(jù)特征權(quán)值選擇特征，最后將選出的特征及其權(quán)值對(duì)核函數(shù)中的內(nèi)積進(jìn)行

3、加權(quán)計(jì)算，從而減少了核函數(shù)中內(nèi)積加權(quán)的計(jì)算復(fù)雜度。在平衡數(shù)據(jù)集的分類(lèi)研究中，該方法在一定程度上解決了傳統(tǒng)的SVM算法缺乏高效率和低準(zhǔn)確率的問(wèn)題。
　　2．基于支持向量機(jī)的不平衡樣本集分類(lèi)算法
　　結(jié)合重采樣技術(shù)和分層抽樣方法，提出基于支持向量機(jī)的不平衡樣本集分類(lèi)算法。該算法以支持向量機(jī)為基礎(chǔ)，首先利用分層抽樣方法，選出樣本的正、負(fù)特征，以平衡樣本底層特征分布，然后在此基礎(chǔ)上采用重采樣技術(shù)，對(duì)樣本數(shù)量進(jìn)行平衡，因此從樣本底層特