基于特征選擇的數(shù)據(jù)降維算法研究.pdf

1、計算機技術的飛速發(fā)展使得我們所獲得的信息呈現(xiàn)爆炸式的增長，有調查顯示，人類近半個世紀以來獲得的數(shù)據(jù)量是以往漫長人類歷史上獲得數(shù)據(jù)的總和，我們正處在大數(shù)據(jù)的包圍之中。這些數(shù)據(jù)通常都是高維的，數(shù)據(jù)維度的膨脹為后續(xù)的計算任務帶來了巨大的負擔，將會導致維數(shù)災難。為了有效地從這些數(shù)據(jù)中獲得有價值的信息，特征選擇和數(shù)據(jù)降維等一系列機器學習算法便應運而生，并且逐漸成為研究熱點之一。數(shù)據(jù)降維方法的基本思路:在輸入空間中對樣本數(shù)據(jù)進行某種變換操作，將高維

2、樣本數(shù)據(jù)映射到低維空間中，最終在低維度空間得到關于原數(shù)據(jù)空間的低維表示。目前，數(shù)據(jù)降維已成為機器學習、數(shù)據(jù)挖掘、人工智能以及計算機視覺中的重要方法。
　　本文在ReliefF特征選擇算法的基礎上，融合了兩種不同的數(shù)據(jù)降維算法和子模優(yōu)化的性質，研究了基于特征選擇的數(shù)據(jù)降維算法在文本和圖像特征選取中的應用。
　　本論文研究的主要內容和創(chuàng)新點:
　　(1)提出了基于PCA-ICA和ReliefF相結合的用于人臉圖像特征選取的

3、方法。考慮到PCA算法不能保留人臉圖像的高階信息的缺點，本文在對人臉圖像處理中，先使用ReliefF算法進行最優(yōu)特征子集選擇，經過PCA降維，再應用ICA對降維之后的數(shù)據(jù)進行處理，并將兩次數(shù)據(jù)降維算法操作后的圖像特征集合送入到分類器進行訓練，最終的實驗結果證明選取的特征子集用于圖像的分類效果比ASU上提供的特征選擇算法提取的特征子集效果較好。
　　(2)提出了基于子模優(yōu)化的特征選擇方法用于文本特征選取。首先將文本特征集進行預處理，