幾種特征加權(quán)支持向量機方法的比較研究.pdf

1、支持向量機(support Vector Machine,SVM是一種新的基于統(tǒng)計學(xué)習(xí)理論(StatisticalLearning—Theory)的機器學(xué)習(xí)方法，根據(jù)有限的樣本信息在模型的復(fù)雜性和學(xué)習(xí)能力之間尋求最佳折衷，以獲得更好的泛化能力經(jīng)典支持向量機認(rèn)為所有的特征有相同的重要性，然而如果樣本中包含著與目標(biāo)函數(shù)弱相關(guān)甚至是不相關(guān)的特征時，就會在一定程度上影響分類器的推廣能力在一些真實數(shù)據(jù)集上，確實存在某些特征對分類貢獻大，而其它特征

2、對分類貢獻小的情況，所以就提出了特征加權(quán)SVM算法特征加權(quán)就是對每個特征賦予一個區(qū)間[0，1]中的數(shù)來表明該特征的重要性，越重要的特征就賦予越大的權(quán)值本文把特征選擇的一些方法應(yīng)用到經(jīng)典SVN中，提出了五種特征加權(quán)SVM算法，所采用的特征加權(quán)方法有：增益比率法，對稱不確定性法，x2檢驗法，Gini指標(biāo)法以及Relief-F算法然后本文提出了相對間隔的定義，并從理論上證明了在一定條件下，相對間隔越大，svM的泛化能力就越好最后在一個人工數(shù)據(jù)