面向高維異構(gòu)數(shù)據(jù)的特征選擇方法.pdf

1、近年來，隨著存儲技術(shù)的飛速發(fā)展，數(shù)據(jù)規(guī)模不斷膨脹。如何有效地分析這些海量數(shù)據(jù)，并從中提取有用的信息，成為研究的熱點和難點。而在處理高維和異構(gòu)數(shù)據(jù)時常面臨＂維數(shù)災(zāi)難＂問題：數(shù)據(jù)分布稀疏，噪聲和冗余特征隨之增多，降低了算法的泛化性能，以及＂過擬合＂問題。同時高維數(shù)據(jù)也增加算法時間、空間復(fù)雜度。針對高維異構(gòu)數(shù)據(jù)下的特征選擇問題研究，己經(jīng)成為機器學(xué)習(xí)領(lǐng)域研究的難點與重點。本文主要借助粗糙集相關(guān)理論方法，研究特征選擇，進行了以下兩方面工作:

2、>　?。?）針對傳統(tǒng)鄰域粗糙集對各數(shù)據(jù)點設(shè)置相同鄰域大小這一策略，結(jié)合具體數(shù)據(jù)分布特征分析得出：該策略會給屬性約簡帶來較大的誤差，且鄰域設(shè)定的變化會導(dǎo)致每個樣本點的正域隨之改變，使特征選擇結(jié)果不穩(wěn)定。針對這個問題，本文提出了一種基于密度動態(tài)設(shè)定鄰域半徑的屬性約簡算法，該算法根據(jù)數(shù)據(jù)分布特征，對每列屬性設(shè)定不同的鄰域，同時對于每個數(shù)據(jù)點都將根據(jù)其密度動態(tài)設(shè)定鄰域。處于密集區(qū)域的樣本點設(shè)定較小鄰域半徑，可以保證密度大的點鄰域中包含更多同類數(shù)

3、據(jù)的同時，排除更多的噪聲點；對稀疏區(qū)域的點采用較大鄰域半徑，保證鄰域中包含盡量多的數(shù)據(jù)。在特征選擇過程中使用啟發(fā)式的雙向選擇策略，在去除冗余屬性的同時，減少對無用屬性的重復(fù)計算。本文通過對數(shù)據(jù)分區(qū)加速了鄰域計算的過程，明顯降低鄰域的計算開銷。同時由于本文算法對屬性重要性計算精度更高，可避免對變精度參數(shù)的依賴。
　?。?）在數(shù)值型數(shù)據(jù)、高維基因數(shù)據(jù)和人臉數(shù)據(jù)3類共25組高維異構(gòu)數(shù)據(jù)集上的實驗驗證，本文算法相比其他算法選出的特征更為精