改進(jìn)的子空間聚類算法研究及實(shí)現(xiàn).pdf

1、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘和圖像識別的很多應(yīng)用中，子空間學(xué)習(xí)方法由于可以將高維數(shù)據(jù)在低維子空間進(jìn)行表示，從而避免了高維數(shù)據(jù)的維度災(zāi)難問題，得到了廣泛應(yīng)用。作為子空間學(xué)習(xí)在聚類分析方向的一個重要分支，子空間聚類對特征選擇進(jìn)行了拓展，并且能夠在數(shù)據(jù)集的不同子空間上進(jìn)行聚類，使其逐漸成為研究的熱點(diǎn)。當(dāng)前流行的子空間聚類方法大多是以譜聚類為基礎(chǔ)的，而譜聚類算法的關(guān)鍵為:如何構(gòu)建基于樣本相似性的關(guān)聯(lián)矩陣（相似性矩陣），和如何對相似矩陣進(jìn)行分析處理得到數(shù)據(jù)

2、的聚類結(jié)果。主流的基于譜聚類的子空間聚類算法的研究主要集中在如何利用數(shù)據(jù)的相關(guān)信息（局部信息，全局信息等）來為聚類分析構(gòu)建更好的關(guān)聯(lián)矩陣。本文對當(dāng)前流行的聚類算法在構(gòu)建關(guān)聯(lián)矩陣時存在的問題（缺乏考慮樣本之間的相關(guān)性和對噪聲和離群值敏感等）進(jìn)行了探討和研究，提出了基于群組效應(yīng)和樣本自表征的子空間聚類算法和基于超圖和樣本自表征的譜聚類算法。本文的主要創(chuàng)新點(diǎn)總結(jié)如下:
　　1.針對目前聚類算法對噪聲敏感和缺乏考慮樣本間相關(guān)性等問題，提出

3、了利用樣本自表征來表示數(shù)據(jù)之間的關(guān)聯(lián)關(guān)系（相似性度量），充分考慮了樣本之間固有的相關(guān)性:通過其他樣本的線性組合來表征待測樣本，得到表征系數(shù)矩陣，使得樣本之間的相似性關(guān)系得到更好的表示。在自表征模型中利用l2,1-范數(shù)對基于重構(gòu)的樣本自表征矩陣進(jìn)行行稀疏，使得重構(gòu)的關(guān)聯(lián)矩陣對離群點(diǎn)和噪音更加魯棒，即，噪聲和離群點(diǎn)在關(guān)聯(lián)矩陣中的表征系數(shù)在行內(nèi)被稀疏為零。同時創(chuàng)新地利用trace-norm在模型中融合了群組效應(yīng)對自表征系數(shù)矩陣進(jìn)行約束，防止模

4、型過擬合，使得相似樣本之間的表征系數(shù)亦相近，來得到最優(yōu)的自表征矩陣（呈塊對角），最終使得聚類性能得到提高。
　　2.針對上述提出的基于自表征和群組效應(yīng)的子空間聚類算法僅僅考慮了數(shù)據(jù)點(diǎn)對之間的相互關(guān)聯(lián)關(guān)系，但并未考慮樣本之間可能隱藏的更為復(fù)雜的關(guān)聯(lián)關(guān)系的問題，在1的基礎(chǔ)上分析了普通圖的缺點(diǎn)和超圖的優(yōu)點(diǎn)，提出一種基于超圖的譜聚類分析算法:即利用超圖描述數(shù)據(jù)間多層次的相互關(guān)系，來得到更好的關(guān)聯(lián)矩陣。具體地，首先建立數(shù)據(jù)的超圖，得到超圖的