基于最優(yōu)給分的稀疏無監(jiān)督學(xué)習(xí)算法研究.pdf

1、主元分析作為一種多元統(tǒng)計分析方法，廣泛應(yīng)用于數(shù)據(jù)處理和簡化中。這種方法試圖通過對數(shù)據(jù)協(xié)方差矩陣進(jìn)行對角化，從而找到數(shù)據(jù)中最主要的元素和結(jié)構(gòu)，去除噪音和冗余，對原數(shù)據(jù)進(jìn)行簡化處理。然而，在多元線性分析方法中，當(dāng)求解因變量對自變量的回歸時，得到的組合系數(shù)往往均不為零，因此這種回歸模型的主要缺點是缺乏可解釋性。主元分析中的主元作為從數(shù)據(jù)中提取出來的主要信息，是所有自變量的線性組合，因此也存在這樣的缺點。Tibshirani在1996年提出的l

2、asso方法，通過對回歸系數(shù)加上e1范式約束，使得其中的某些系數(shù)自動退化為零，在提高了回歸精度的同時也產(chǎn)生了可解釋的模型。Zou等人在此基礎(chǔ)之上，于2005年提出了elastic net的方法，對回歸系數(shù)同時加上e1和e2范式約束，解決了lasso方法中不能解p＞n類型的數(shù)據(jù)等其他缺點。Jolliffe等人將對回歸系數(shù)的約束延伸到主元分析中，各自提出了得到稀疏負(fù)荷系數(shù)的方法。這些方法主要思想都是在回歸模型或特征值分解中，對負(fù)荷系數(shù)加上e

3、1和(或)e2范式約束。本文從另一個角度，借鑒Zhang在09年提出的最優(yōu)給分無監(jiān)督學(xué)習(xí)框架的基礎(chǔ)上，提出SPCA—OS稀疏主元分析方法，實驗結(jié)果表明，和其他稀疏方法相比，在累計方差大致相同的情況下，SPCA—OS負(fù)荷系數(shù)更加稀疏。另外本文還提出了與主元分析相對應(yīng)的稀疏主坐標(biāo)分析(SPCO)，這種方法在降維的同時直接對降維坐標(biāo)進(jìn)行稀疏，區(qū)別于負(fù)荷系數(shù)的稀疏。實驗結(jié)果表明，SPCO能夠有效對降維坐標(biāo)進(jìn)行稀疏，并能解決如基因微陣列p＞＞n情