機(jī)器學(xué)習(xí)中的兩階段特征選擇方法研究.pdf

1、隨著大數(shù)據(jù)時(shí)代的到來，如何快速處理數(shù)據(jù)并從中發(fā)掘有用的信息成為目前急需解決的問題。特征選擇作為機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的一個(gè)重要的預(yù)處理步驟，越來越受到學(xué)者們的關(guān)注，而算法已經(jīng)不是處理海量數(shù)據(jù)的瓶頸。近年來，許多研究表明無關(guān)特征與冗余特征大大的影響了機(jī)器學(xué)習(xí)算法的準(zhǔn)確性和運(yùn)行效率，因此需要選擇合適的特征選擇算法，才能從海量數(shù)據(jù)中選擇最有效的特征，更加高效地為機(jī)器學(xué)習(xí)算法服務(wù)。
　　本文主要對機(jī)器學(xué)習(xí)中的兩階段特征選擇方法進(jìn)行研究，從

2、高維特征中選擇最有利于機(jī)器學(xué)習(xí)算法的特征，提高算法效率，降低運(yùn)行時(shí)間。本文的研究內(nèi)容主要分為如下幾個(gè)部分：
　　首先，從特征選擇的分類出發(fā)，根據(jù)特征選擇方法對機(jī)器學(xué)習(xí)算法的依賴關(guān)系，可以將其分為Filter模型和Wrapper模型。Filter模型具有快速高效、使用范圍廣的特點(diǎn)，可以對不相關(guān)特征進(jìn)行檢測和刪除；Wrapper模型具有準(zhǔn)確率高、生成特征子集較優(yōu)的特點(diǎn)，可以得到較小的不含冗余特征的子集。根據(jù)兩種特征選擇模型各自的優(yōu)點(diǎn)，

3、可以采用兩階段的特征選擇方法。
　　其次，對于高維的二值數(shù)據(jù)，針對其只包含有0和1兩種數(shù)值的特點(diǎn)，定義了差異標(biāo)準(zhǔn)值作為特征與類別相關(guān)程度的度量。相比于傳統(tǒng)的方法，這種分析方法提高了相關(guān)性分析的效率。
　　再次，對于冗余特征的檢測，從相關(guān)性分析的角度出發(fā)，提出了基于最大信息系數(shù)的非線性相關(guān)性分析方法，可以定量地衡量出特征和特征之間非線性關(guān)系，使得最終獲得的子集維數(shù)進(jìn)一步降低。通過主成分分析法進(jìn)行降維，在一定程度上也可以減少冗余