基于分塊和核參數(shù)選擇的KPCA研究.pdf

1、自從二十世紀(jì)九十年代以來(lái)，核方法已經(jīng)被廣泛應(yīng)用于模式識(shí)別與機(jī)器學(xué)習(xí)領(lǐng)域。作為一種基于非線性映射的非線性方法，核方法等價(jià)于先將原始數(shù)據(jù)通過(guò)非線性映射變換到一高維空間后的線性特征提取手段，其優(yōu)勢(shì)在于核方法允許研究者在原始數(shù)據(jù)對(duì)應(yīng)的高維特征空間使用線性方法來(lái)分析和解決問(wèn)題，不需要直接對(duì)數(shù)據(jù)進(jìn)行映射。因此與普通的非線性方法相比，核方法的計(jì)算負(fù)擔(dān)要小很多。另一方面，一般的非線性方法映射的維數(shù)往往過(guò)高不受控制，而核方法能夠有效地規(guī)避“維數(shù)災(zāi)難”問(wèn)題

2、。基于核函數(shù)的主成分分析（KPCA）是模式分類問(wèn)題中最常見(jiàn)的核方法之一。KPCA的執(zhí)行等效于：首先使用非線性映射將樣本變換到一個(gè)新的特征空間，然后在此特征空間中實(shí)施主成分分析（PCA）的方案。作為一種非線性主成分分析方法，尤其是對(duì)存在復(fù)雜的非線性關(guān)系的原始數(shù)據(jù)進(jìn)行特征提取時(shí)，KPCA相比PCA能提取到更有利于分類的特征。
　　KPCA同PCA一樣，是一個(gè)全局方法，因此使用KPCA提取特征時(shí)，只能提取到整體特征而忽略了局部特征。在局

3、部特征很重要的情況下，使用KPCA進(jìn)行特征提取將會(huì)丟掉很多有可能很重要的局部信息。作為對(duì)原始KPCA的改進(jìn)，本文第一次提出將分塊機(jī)制引入KPCA，即首先將模式分為幾個(gè)子塊，然后對(duì)每個(gè)子塊使用KPCA進(jìn)行特征提取。分塊KPCA（BKPCA）通過(guò)對(duì)模式的每個(gè)子塊提取特征來(lái)提取局部特征。為了驗(yàn)證BKPCA的有效性，我們將該方法應(yīng)用于環(huán)境因素變化的人臉識(shí)別中。在三個(gè)人臉庫(kù)上的實(shí)驗(yàn)表明了BKPCA能夠有效地減少環(huán)境因素對(duì)人臉識(shí)別結(jié)果的影響。因此，

4、BKPCA是一個(gè)有效的局部特征提取算法。
　　核方法的一個(gè)重要特點(diǎn)是其核函數(shù)中存在可調(diào)參數(shù)。不論使用哪一種核方法，也不論使用哪一種核函數(shù)形式，都需要具體設(shè)定核函數(shù)的參數(shù)；而且參數(shù)取不同值往往對(duì)應(yīng)大不相同的應(yīng)用效果。因此，對(duì)核方法進(jìn)行參數(shù)選擇以實(shí)現(xiàn)模型優(yōu)化是核方法研究的一個(gè)重要方面。本文第一次提出借助一種比值（稱作特征比）來(lái)調(diào)節(jié)KPCA的核參數(shù)值，在基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)證明了特征比與分類結(jié)果密切相關(guān)。因此在調(diào)節(jié)KPCA的核參數(shù)值時(shí)，可