基于多核學(xué)習(xí)的多標(biāo)簽特征降維算法研究.pdf

1、在多標(biāo)簽分類問題中，單個(gè)樣本可能包含一個(gè)或多個(gè)標(biāo)簽。多標(biāo)簽數(shù)據(jù)集中通常包含不相關(guān)特征、冗余特征和噪聲特征，這可能影響分類器的性能，導(dǎo)致計(jì)算復(fù)雜度增高。所以有必要在分類之前對樣本進(jìn)行降維處理。
　　有學(xué)者發(fā)現(xiàn)核學(xué)習(xí)與分類器結(jié)合，能夠有效地提高分類器的性能。所以核學(xué)習(xí)迅速被引入到其他領(lǐng)域，比如特征降維等。當(dāng)特征降維與核學(xué)習(xí)相合時(shí)，其效果取決于核映射（核參數(shù)），如何選擇合適的核函數(shù)又成為特征降維的新問題。為了解決這個(gè)問題，本文將多核學(xué)習(xí)

2、與傳統(tǒng)的兩種特征降維方法相結(jié)合，提出基于多核學(xué)習(xí)的主成分分析法(MK-PCA)和基于多核學(xué)習(xí)的多標(biāo)簽判別分析(MK-MLDA)。
　　MK-PCA算法將傳統(tǒng)的無監(jiān)督降維算法主成分分析與多核學(xué)習(xí)相結(jié)合。通過研究發(fā)現(xiàn)1-范數(shù)約束的基核系數(shù)不能得到最優(yōu)解，所以本文選擇2-范數(shù)約束的核系數(shù)形式。特別地，當(dāng)采用RBF核時(shí)，目標(biāo)模型的解為平均核稱平均核主成分分析(Av-KPCA)。為了充分利用多核學(xué)習(xí)，本文引入了信息熵正則化以保證盡可能地保證

3、有效的核映射。通過實(shí)驗(yàn)說明，在不需要調(diào)節(jié)核參數(shù)的情況下，MK-PCA算法和Av-KPCA算法在多項(xiàng)指標(biāo)上能夠取得與單核相當(dāng)甚至更優(yōu)的性能。
　　MK-MLDA算法將傳統(tǒng)的監(jiān)督降維算法線性判別分析與多核學(xué)習(xí)相結(jié)合。線性判別分析是一種廣泛使用的單標(biāo)簽監(jiān)督特征降維方法，為了使其能夠處理多標(biāo)簽問題，有學(xué)者提出多標(biāo)簽線性判別分析。由于核學(xué)習(xí)的優(yōu)異性能，本文把核學(xué)習(xí)引入到多標(biāo)簽判別分析中形成單核判別分析KMLDA和多核判別分析模型MK-MLD