基于Fisher Score及遺傳算法的特征選擇方法研究.pdf

1、特征選擇是機(jī)器學(xué)習(xí)領(lǐng)域研究的熱點(diǎn)之一。本文通過(guò)介紹特征選擇的相關(guān)背景及研究意義，分析一些特征選擇方法的優(yōu)缺點(diǎn)，利用過(guò)濾式和封裝式這兩類(lèi)特征選擇算法的互補(bǔ)性，提出一種基于Fisher Score及遺傳算法的混合式特征選擇方法。該方法先對(duì)所有特征的Fisher Score作一個(gè)線(xiàn)性變換，再利用變換后的Fisher Score生成遺傳算法的初始種群，接著借鑒精英保留策略，用遺傳算法的后續(xù)運(yùn)算選出特征。以 Sonar，WDBC，Arrhythm

2、ia，Hepatitis這四個(gè)數(shù)據(jù)集作為實(shí)驗(yàn)數(shù)據(jù)，用該方法分別選出它們的特征子集，再依據(jù)所選特征子集對(duì)原數(shù)據(jù)集降維，用1-最近鄰分類(lèi)器對(duì)降維后的樣本分類(lèi)，通過(guò)10重交叉驗(yàn)證法分別獲得72.36％，95.64%，72.04%和87.83%的分類(lèi)準(zhǔn)確率，并且所需的迭代次數(shù)較少，特征選擇的綜合效果基本優(yōu)于Fisher Score法（FS）、遺傳算法（GA）和Fisher Score+遺傳算法（FSGA）這3種對(duì)比方法，同時(shí)該方法能很好地剔除冗