基于Fisher Score及遺傳算法的特征選擇方法研究.pdf

1、特征選擇是機器學習領域研究的熱點之一。本文通過介紹特征選擇的相關背景及研究意義，分析一些特征選擇方法的優(yōu)缺點，利用過濾式和封裝式這兩類特征選擇算法的互補性，提出一種基于Fisher Score及遺傳算法的混合式特征選擇方法。該方法先對所有特征的Fisher Score作一個線性變換，再利用變換后的Fisher Score生成遺傳算法的初始種群，接著借鑒精英保留策略，用遺傳算法的后續(xù)運算選出特征。以 Sonar，WDBC，Arrhythm

2、ia，Hepatitis這四個數(shù)據(jù)集作為實驗數(shù)據(jù)，用該方法分別選出它們的特征子集，再依據(jù)所選特征子集對原數(shù)據(jù)集降維，用1-最近鄰分類器對降維后的樣本分類，通過10重交叉驗證法分別獲得72.36％，95.64%，72.04%和87.83%的分類準確率，并且所需的迭代次數(shù)較少，特征選擇的綜合效果基本優(yōu)于Fisher Score法（FS）、遺傳算法（GA）和Fisher Score+遺傳算法（FSGA）這3種對比方法，同時該方法能很好地剔除冗