基于孿生支持向量機的特征選擇與分類算法研究.pdf

1、孿生支持向量機(TWSVM)摒棄了傳統(tǒng)SVM平行約束的條件，通過求解兩個形如SVM的二次規(guī)劃問題來獲得分類模型,可以將訓(xùn)練時間縮短到原SVM的1/4。然而，原始TWSVM并沒有考慮到數(shù)據(jù)的分布信息，對于一些分布復(fù)雜的數(shù)據(jù)，TWSVM就不能進行有效的分類識別。針對此問題，本文從流形學(xué)習(xí)和聚類兩方面進行討論，對TWSVM進行改進。
　　首先，從流形學(xué)習(xí)進行考慮，通過將數(shù)據(jù)的流形結(jié)構(gòu)引入至分類目標(biāo)函數(shù)中，提出基于流形結(jié)構(gòu)的TWSVM(M

2、TSVM)分類算法，其主旨是假設(shè)所處理的數(shù)據(jù)采樣于一個潛在的流形上，通過建立類內(nèi)散度矩陣，獲得數(shù)據(jù)內(nèi)部的流形結(jié)構(gòu)，并將其引入到目標(biāo)函數(shù)中，使得類內(nèi)鄰近樣本之間的距離最小化，不同類樣本之間的間隔最大化。進一步，為了提高其計算速度，提出基于流形結(jié)構(gòu)的最小二乘TWSVM(LS-MTSVM)算法。
　　其次，我們通過采用聚類技術(shù)，提出基于聚類結(jié)構(gòu)的TWSVM(STSVM)分類算法，其通過對數(shù)據(jù)在類內(nèi)進行聚類，將獲得的結(jié)構(gòu)信息以協(xié)方差矩陣的

3、形式引入到分類算法的目標(biāo)函數(shù)中，在保證各類數(shù)據(jù)都盡量圍繞在其分類面周圍的同時，使得同一類內(nèi)數(shù)據(jù)分布更加緊湊。進一步，為了提高其計算速度，提出基于聚類結(jié)構(gòu)的最小二乘TWSVM算法。此外，對于STSVM在處理非均衡數(shù)據(jù)時存在的問題對其進行改進，提出非對稱型STSVM(AS-STSVM)算法。
　　最后，在STSVM的基礎(chǔ)上，構(gòu)造了基于STSVM的特征選擇算法(LP-STSVM)，該分類器只需求解一個線性規(guī)劃，在保證得到與STSVM相當(dāng)