基于投影的聚類算法研究及應(yīng)用.pdf

1、隨著信息技術(shù)飛速發(fā)展，在信息處理過(guò)程中，人們發(fā)現(xiàn)信息的數(shù)據(jù)量越來(lái)越大龐大。如何從大量的信息數(shù)據(jù)中獲取人們所需要的知識(shí)?如：數(shù)據(jù)的分布，數(shù)據(jù)發(fā)展趨勢(shì)等等，因而聚類作為一門數(shù)據(jù)分析工具也就應(yīng)運(yùn)而生，所謂聚類就是將物理或抽象對(duì)象的集合組成由類似的對(duì)象構(gòu)成的多個(gè)類或簇的過(guò)程。目的是使得屬于同一類別的個(gè)體之間的差別盡可能的小而不同類別的個(gè)體之間的差別盡可能的大。 目前聚類分析中大部分聚類算法都是針對(duì)低維數(shù)據(jù)的，而現(xiàn)實(shí)中涉及到信息處理數(shù)據(jù)大

2、部分都是高維的，這就向傳統(tǒng)的聚類算法提出了挑戰(zhàn)。文獻(xiàn)[2]中提到，用傳統(tǒng)的聚類算法如K-Means和K-Medoid方法直接處理這些高維數(shù)據(jù)效果非常不理想，于是人們采用“特征提取”方法來(lái)降低數(shù)據(jù)集的維度，例如PCA算法，但這種降維方法很容易導(dǎo)致數(shù)據(jù)的信息丟失。最近的研究表明，在特定條件下高維數(shù)據(jù)的聚類都隱含在低維的子空間內(nèi)，如何找出這些有效的低維子空間?Agrawal等人提出了投影聚類方法。 投影聚類是把數(shù)據(jù)集通過(guò)映射變換投影到

3、低維子空間內(nèi)，然后借助各種方法劃分出該子空間內(nèi)的聚類，能夠有效的降低數(shù)據(jù)集的維度，同時(shí)減少數(shù)據(jù)處理的復(fù)雜度?，F(xiàn)有的投影聚類算法有：CLIQUE，PROCLUS，ORCLUS和EPCH等。CLIQUE算法是首次涉及投影聚類與子空間問(wèn)題，但是該算法要求子空間的延伸方向必須要與坐標(biāo)軸平行，并且還需要用同一個(gè)極限值來(lái)劃分不同投影維度的子空間，這顯然是不合理的；而PROCLUS和ORCLUS算法則主要通過(guò)尋找中心點(diǎn)來(lái)得到投影聚類和它們相關(guān)的子空間

4、。PROCLUS要求發(fā)現(xiàn)投影的子空間延伸方向必須與平行，但ORCLUS算法沒(méi)此限制，可以是任意延伸方向的子空間。EPCH算法也是用來(lái)解決同樣的問(wèn)題，但它與前幾個(gè)算法相比不僅復(fù)雜性降低了，而且有效性和精確性有很大的改進(jìn)。通過(guò)分析EPCH算法，結(jié)合投影聚類的思想，我們采用不同的方法來(lái)劃分子空間，提出了兩個(gè)改進(jìn)算法，分別是： 1)基于Paten窗的投影聚類方法：該方法用投影聚類將高維數(shù)據(jù)投影到低維子空間，再用概率密度估計(jì)函數(shù)Parze