高維小樣本數(shù)據(jù)的特征選擇研究及其穩(wěn)定性分析.pdf

1、隨著生物信息學(xué)、圖像處理、文本挖掘等大規(guī)模數(shù)據(jù)挖掘問題的不斷涌現(xiàn)，數(shù)據(jù)挖掘的研究對(duì)象越來(lái)越復(fù)雜，對(duì)象的特征維數(shù)也越來(lái)越高。在現(xiàn)實(shí)生活及科學(xué)研究中產(chǎn)生了大量的高維小樣本數(shù)據(jù)，如果直接利用這些高維小樣本數(shù)據(jù)進(jìn)行數(shù)據(jù)挖掘，容易出現(xiàn)維數(shù)災(zāi)難問題。通過特征選擇，可以刪除高維小樣本數(shù)據(jù)中的冗余特征和噪聲特征，從而降低學(xué)習(xí)算法的時(shí)間和空間復(fù)雜度，避免維數(shù)災(zāi)難。
　　已有的特征選擇方法主要側(cè)重于特征選擇結(jié)果的高分類性能或者聚類性能，而忽略了特征選

2、擇結(jié)果的穩(wěn)定性。特征選擇的穩(wěn)定性問題對(duì)于高維小樣本數(shù)據(jù)的數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)過程是非常重要的，不穩(wěn)定的特征選擇結(jié)果將帶來(lái)很多歧義，難以獲取可以理解的真實(shí)特征。本文以高維小樣本數(shù)據(jù)的特征選擇及其穩(wěn)定性為研究對(duì)象，做了如下主要工作:
　　1.通過大量地閱讀特征選擇及其穩(wěn)定性的相關(guān)文獻(xiàn)，系統(tǒng)地介紹了特征選擇穩(wěn)定性的概念、意義，詳細(xì)地整理了已有的穩(wěn)定性度量方法，對(duì)現(xiàn)有的穩(wěn)定性特征選擇方法進(jìn)行整理研究，為后續(xù)的研究打下基礎(chǔ)。
　　2.提

3、出了一種高維小樣本數(shù)據(jù)的特征選擇方法——基于隨機(jī)森林的遞歸聚類消除特征選擇方法RF-RCE.RF-RCE是在SVM-RCE以及ISVM-RCE的基礎(chǔ)上提出的。RF-RCE在ISVM-RCE的框架上使用隨機(jī)森林的特征重要性給特征評(píng)分，由于隨機(jī)森林在處理高維小樣本數(shù)據(jù)集上的優(yōu)越性，使得RF-RCE在保持分類準(zhǔn)確率和特征選擇的穩(wěn)定性的基礎(chǔ)上，極大地提高了特征選擇的時(shí)間效率，并且能夠解決ISVM-RCE不能解決的超高維數(shù)據(jù)集。
　　3.為