聚類

1、聚類,IRLAB,大綱,聚類分析簡(jiǎn)介層次聚類單連接和全連接聚類組平均聚類應(yīng)用：改進(jìn)語言模型自頂向下聚類非層次聚類K-均值EM算法,什么是聚類分析?,聚類: 數(shù)據(jù)對(duì)象的集合在同一個(gè)類中，數(shù)據(jù)對(duì)象是相似的不同類之間的對(duì)象是不相似的聚類分析一個(gè)數(shù)據(jù)集合分組成幾個(gè)聚類聚類是一種無監(jiān)督分類:沒有預(yù)定義的類典型應(yīng)用作為一個(gè)獨(dú)立的工具 透視數(shù)據(jù)分布可以作為其他算法的預(yù)處理步驟,聚類算法類型,層次聚類與非層次聚類自底向

2、上與自上向下（凝聚與分裂）K-均值軟聚類與硬聚類K-均值 模糊聚類（EM算法）,層次聚類,自底向下的聚類每一項(xiàng)自成一類迭代，將最近的兩類合為一類自頂向下的聚類將所有項(xiàng)看作一類找出最不相似的項(xiàng)分裂出去成為兩類,類的相似度度量,我們可以知道兩個(gè)項(xiàng)之間的相似度，但是聚類要求知道類與類之間的相似度三種方法：?jiǎn)芜B接方法全連接方法組平均方法,非層次聚類,K-均值硬聚類計(jì)算每個(gè)類的中心EM算法考慮稀疏數(shù)據(jù)公式用E

3、M算法計(jì)算P( ci|w1),K-均值,將n個(gè)向量分到k個(gè)類別中去選擇k個(gè)初始中心計(jì)算兩項(xiàng)距離計(jì)算均值,K-均值算法,,EM-算法,算法族以前的一個(gè)例子：前向后項(xiàng)算法是EM算法的一個(gè)例子可以用于任意的概率模型E(likelihood)及max likelihood estimite估計(jì),模糊聚類,經(jīng)典的k均值聚類算法的一部迭代中，每一個(gè)樣本點(diǎn)都被認(rèn)為是完全屬于某一類別。模糊聚類放松這一條件，假定每個(gè)樣本是模糊隸屬于某一