聚類分析原理及步驟

1、聚類分析原理及步驟——將未知數(shù)據(jù)按相似程度分類到不同的類或簇的過程1》傳統(tǒng)的統(tǒng)計聚類分析方法包括系統(tǒng)聚類法、分解法、加入法、動態(tài)聚類法、有序樣品聚類、有重疊聚類和模糊聚類等。采用k均值、k中心點等算法的聚類分析工具已被加入到許多著名的統(tǒng)計分析軟件包中，如SPSS、SAS等。典型應(yīng)用1》動植物分類和對基因進行分類2》在網(wǎng)上進行文檔歸類來修復(fù)信息3》幫助電子商務(wù)的用戶了解自己的客戶，向客戶提供更合適的服務(wù)主要步驟1》數(shù)據(jù)預(yù)處理——選擇數(shù)量，

2、類型和特征的標度（（依據(jù)特征選擇和抽取）特征選擇選擇重要的特征，特征抽取把輸入的特征轉(zhuǎn)化為一個新的顯著特征，它們經(jīng)常被用來獲取一個合適的特征集來為避免“維數(shù)災(zāi)”進行聚類）和將孤立點移出數(shù)據(jù)（孤立點是不依附于一般數(shù)據(jù)行為或模型的數(shù)據(jù)）2》為衡量數(shù)據(jù)點間的相似度定義一個距離函數(shù)——既然相類似性是定義一個類的基礎(chǔ)，那么不同數(shù)據(jù)之間在同一個特征空間相似度的衡量對于聚類步驟是很重要的，由于特征類型和特征標度的多樣性，距離度量必須謹慎，它經(jīng)常依賴于

3、應(yīng)用，例如，通常通過定義在特征空間的距離度量來評估不同對象的相異性，很多距離度都應(yīng)用在一些不同的領(lǐng)域一個簡單的距離度量，越好，使用這個基本思想的算法有：KMEANS算法、KMEDOIDS算法、CLARANS算法）層次法1》“自底向上”方案——將每個數(shù)據(jù)單獨作為一組，通過反復(fù)迭代的方法，把那些相互鄰近的組合并成一個組，直到所有的記錄組成一個分組或者某個條件滿足為止，代表算法有：BIRCH算法、CURE算法、CHAMELEON算法等2》“自

4、頂向下”方案主要算法原理及步驟KMEANS算法kmeans算法接受輸入量k；然后將n個數(shù)據(jù)對象劃分為k個聚類以便使得所獲得的聚類滿足：同一聚類中的對象相似度較高；而不同聚類中的對象相似度較小。聚類相似度是利用各聚類中對象的均值所獲得一個“中心對象”（引力中心）來進行計算的。kmeans算法的工作過程說明如下：1》從n個數(shù)據(jù)對象任意選擇k個對象作為初始聚類中心；而對于所剩下其它對象，則根據(jù)它們與這些聚類中心的相似度（距離），分別將它們分配