核方法的若干關(guān)鍵問題研究及其在人臉圖像分析中的應(yīng)用.pdf

1、核方法作為一種非線性方法，對于非線性模式分類問題，具有堅(jiān)實(shí)的理論支撐和強(qiáng)大的應(yīng)用潛力。它具有兩個(gè)顯著的特點(diǎn)：首先是在線性與非線性之間架設(shè)起一座橋梁，其次是通過巧妙地引入核函數(shù)，避免了維數(shù)災(zāi)難，也沒有增加計(jì)算復(fù)雜度。目前，支持向量機(jī)樣本約簡、核函數(shù)構(gòu)造以及多重核學(xué)習(xí)都是核方法研究的重要方向。在支持向量機(jī)樣本約簡方面，一些研究致力于開發(fā)基于核聚類的樣本約簡方法；在核函數(shù)構(gòu)造方面，利用數(shù)據(jù)的特性構(gòu)造高效的專用核在很多應(yīng)用領(lǐng)域尚未實(shí)現(xiàn)；在多重核

2、學(xué)習(xí)方面，目前的多重核學(xué)習(xí)是在支持向量機(jī)的框架下提出并發(fā)展起來的，迄今還極少見到基于多重核的子空間分析方法的報(bào)告。
　　 本文的主要工作包括以下三個(gè)方面。
　　 ⑴提出了一種“自頂向下”的層次核聚類方法-核二分k-均值聚類算法(KBK)，該方法能夠在核特征空間中快速產(chǎn)生規(guī)模相近的簇；在此基礎(chǔ)上，提出了支持向量機(jī)樣本約簡的KBK-SR算法，它將一個(gè)經(jīng)過改造的KBK聚類過程與一個(gè)樣本移除過程相結(jié)合，作為支持向量機(jī)訓(xùn)練的預(yù)處理

3、過程。理論分析和實(shí)驗(yàn)都表明，KBK-SR算法能夠在保持較高測試精度的同時(shí)，快速有效地進(jìn)行支持向量機(jī)樣本約簡。
　　 ⑵針對人臉圖像的光照變化，為基于核的LDA識別方法提出了一種系統(tǒng)的核學(xué)習(xí)方法。該方法從朗伯假設(shè)出發(fā)，通過最大化類內(nèi)和類間相似度的差來學(xué)習(xí)核矩陣，進(jìn)而使用散亂數(shù)據(jù)插值技術(shù)將核矩陣推廣為被我們稱作ILLUM核的核函數(shù)。在可變光照條件下的人臉圖像集上的實(shí)驗(yàn)表明，我們的ILLUM核能夠使基于核的LDA方法很好地處理人臉圖像

4、識別中的光照問題，在這個(gè)意義下，ILLUM核顯著優(yōu)于線性核和高斯徑向基核等常用核。
　　 ⑶提出了多重核線性判別分析(MKDA)方法，首先針對基于核的LDA給出了一種多重核的構(gòu)造方法，繼而通過使用拉格朗日乘子法優(yōu)化最大邊緣準(zhǔn)則，在基于核的LDA的框架下導(dǎo)出了MKDA權(quán)值優(yōu)化的迭代算法。在實(shí)驗(yàn)部分，一方面，優(yōu)化權(quán)值后的MKDA在幾個(gè)UCI標(biāo)準(zhǔn)數(shù)據(jù)集上顯示了高于單個(gè)核KDDA的鑒別性能；另一方面，將MKDA的權(quán)值優(yōu)化算法用于核選擇，