支持向量機中Sigmoid核函數(shù)的研究.pdf

1、由Vapnik等人提出的支持向量機(Support Vector Machine，SVM)技術(shù)，由于具有極強的模型泛化能力，不會陷入局部極小點，以及很強的非線性處理能力等特點，近十年來取得了全面飛速的發(fā)展，獲得了大量成功的應(yīng)用。
　　 當(dāng)前，選擇合適的核函數(shù)及其參數(shù)已成為SVM進一步發(fā)展的關(guān)鍵點和難點。不同的核函數(shù)確定了不同的非線性變換和特征空間，因此選取不同的核函數(shù)訓(xùn)練SVM就會得到不同的分類效果。在支持向量機中，通常所選的核

2、函數(shù)必須滿足Mercer條件。最常用的核函數(shù)有：多項式核、高斯核、Sigmoid核，前兩種核函數(shù)由于其自身的優(yōu)越性質(zhì)，已經(jīng)被廣泛應(yīng)用。而來自于神經(jīng)網(wǎng)絡(luò)的Sigmoid核函數(shù)在實際應(yīng)用中卻受到了限制，主要是因為只有參數(shù)滿足特定條件時，Sigmoid核才是半正定的(positive semi-definite，PSD)。但令人驚訝的是，在一些實際應(yīng)用中它也有不俗的表現(xiàn)?；诖?，本文對Sigmoid核函數(shù)進行了深入研究，主要工作如下：

3、　　 首先詳細(xì)分析了Sigmoid核函數(shù)的性質(zhì)。先解釋了非半正定核也具有分類能力的原因，并分四種情形討論了Sigmoid核函數(shù)的性質(zhì)；然后分析了Sigmoid核與高斯核的關(guān)系：當(dāng)參數(shù)r很小且參數(shù)a→0時，二者不僅具有相似的表達式，而且具有相似的決策函數(shù)，從而說明二者具有相似的分類能力；最后給出了Sigmoid核SVM的算法——序列最小最優(yōu)化算法(SMO)，并通過實驗驗證了上面的結(jié)論。
　　 其次根據(jù)Smits等人提出的混合核函