局部信息保持投影及應(yīng)用.pdf

1、在低維空間描述高維數(shù)據(jù)是數(shù)據(jù)分析、模式識(shí)別、機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)等領(lǐng)域的基礎(chǔ)問(wèn)題之一。隨著傳感器技術(shù)和數(shù)據(jù)采集技術(shù)的迅速發(fā)展，實(shí)際數(shù)據(jù)的維數(shù)越來(lái)越高，如何有效地描述數(shù)據(jù)已成為目前急需要解決和非?；钴S的研究方向之一。在已有的眾多方法中，最經(jīng)典且部分得到成功應(yīng)用的方法是主成分分析(Principal Component Analysis，PCA)。PCA是基于最小均方誤差的特征提取技術(shù)，有效地保持了數(shù)據(jù)的全局歐氏距離結(jié)構(gòu)，即差異信息；缺點(diǎn)是

2、不能有效地保持非線性數(shù)據(jù)的差異信息，導(dǎo)致性能比較差。對(duì)此，本文從PCA入手，借助流形學(xué)習(xí)的思想，深入研究了基于圖論的差異信息保持投影，主要內(nèi)容和貢獻(xiàn)如下：
　　 第一，針對(duì)PCA不能有效地保持非線性數(shù)據(jù)的局部差異信息，導(dǎo)致性能比較差等問(wèn)題，提出了局部信息保持投影算法(Local Information Preserving Projection，LIPP)。該算法借助流形學(xué)習(xí)的思想，在訓(xùn)練數(shù)據(jù)集上定義一個(gè)由頂點(diǎn)和相似矩陣構(gòu)成的加

3、權(quán)鄰接圖，其中頂點(diǎn)是由訓(xùn)練數(shù)據(jù)構(gòu)成，相似矩陣度量了頂點(diǎn)之間的差異信息大小。在此基礎(chǔ)上，建立了一個(gè)簡(jiǎn)明、含義明確的特征提取準(zhǔn)則，該準(zhǔn)則通過(guò)最大化差異離散度尋找投影方向。和傳統(tǒng)的PCA相比，LIPP不僅適用于線性數(shù)據(jù)的描述和分類，而且有效地保持了非線性數(shù)據(jù)的局部差異信息，并取得了不錯(cuò)的效果。實(shí)驗(yàn)結(jié)果證明了所提算法的有效性。
　　 第二，針對(duì)LIPP存在小樣本和計(jì)算比較復(fù)雜等問(wèn)題，提出了二維局部信息保持投影(two-Dimension

4、al Local Information Preserving Projection，2DLIPP)。該方法借助經(jīng)典的二維特征提取技術(shù)如2DPCA，將提出的LIPP算法推廣到二維，有效地避免了將圖像轉(zhuǎn)換成向量，較好地保持了圖像相鄰像素之間的空間結(jié)構(gòu)信息，同時(shí)降低了計(jì)算復(fù)雜度。和2DPCA相比，2DLIPP不僅適用于線性數(shù)據(jù)的描述和分類，而且有效地保持了非線性數(shù)據(jù)的局部差異信息，并取得了不錯(cuò)的效果。在Yale，UMIST，AR和ORL等人