基于無監(jiān)督聚類和樸素貝葉斯分類的文本分類方法研究.pdf

1、在現(xiàn)實世界中，我們可獲得的大部分信息都是以諸如書籍、研究論文、新聞、數(shù)字圖書、Web頁面及電子郵件等各種形式出現(xiàn)的。這些形式的信息通常稱為文本信息，它們由來自各種數(shù)據(jù)源的大量文檔組成，主要存儲在文本數(shù)據(jù)庫中。文本數(shù)據(jù)庫中存儲最多的數(shù)據(jù)是半結(jié)構(gòu)化數(shù)據(jù)，它既不是完全無結(jié)構(gòu)的也不是完全結(jié)構(gòu)化的。據(jù)統(tǒng)計，80％以上的數(shù)據(jù)都是以非完全結(jié)構(gòu)化的形式存在，而且由于電子形式的信息量也正在迅猛增長，使得文本數(shù)據(jù)庫得到迅速的發(fā)展。為了在這些海量的、異質(zhì)的、

2、非結(jié)構(gòu)化的數(shù)據(jù)源中提取感興趣的、潛在的有用模式和隱藏的信息，也需要對文本信息進(jìn)行數(shù)據(jù)挖掘，這就是文本挖掘。隨著文本數(shù)據(jù)的迅速增長，文本挖掘已經(jīng)成為了數(shù)據(jù)挖掘領(lǐng)域的一個重要的研究方向。 通過數(shù)據(jù)挖掘，可以從大量的數(shù)據(jù)中提取或發(fā)現(xiàn)知識。模式則是知識的一種表述形式。所以無論是在數(shù)據(jù)挖掘中，還是在文本挖掘中，模式挖掘都是其中的一個重要環(huán)節(jié)。分類和聚類是兩種常見模式挖掘的方法。 無監(jiān)督文本聚類算法(UTC)是一種把無監(jiān)督聚類算法(

3、UC)用于文本聚類的方法。算法通過指定聚類半徑R，分別對每類文本進(jìn)行聚類并獲得聚類中心；然后，把聚類中心作為對文本的預(yù)分類：即對任意文本，計算其與各聚類中心的距離；找到與其距離最近的聚類中心后，該聚類中心所對應(yīng)的類就是文本的所屬類。該方法的特點是分類速度快，但準(zhǔn)確率較低。 樸素貝葉斯分類以其堅實的數(shù)學(xué)基礎(chǔ)和豐富的概率表達(dá)能力，尤其是它能充分利用先驗信息的特性越來越受到人們的重視，成為數(shù)據(jù)挖掘領(lǐng)域中的一個熱點，在數(shù)據(jù)挖掘中具有廣泛

4、的應(yīng)用。 論文在分析無監(jiān)督文本聚類和樸素貝葉斯分類特點的基礎(chǔ)上，提出了一個對不帶任何類別標(biāo)志的文本進(jìn)行準(zhǔn)確分類的方法。采用向量空間模型(VSM)來對待分類的文本進(jìn)行表示，即將文本表示成在n維向量空間中的一個點。指定聚類半徑R，利用無監(jiān)督文本聚類方法進(jìn)行聚類，獲得文本類別標(biāo)志集合和聚類的正例中心和反例中心，然后把聚類結(jié)果中的那些處在包含正例中心區(qū)域內(nèi)的文本作為訓(xùn)練樣本來對樸素貝葉斯分類器進(jìn)行訓(xùn)練，最后再將在聚類結(jié)果中處在模糊區(qū)域的

5、文本交給訓(xùn)練好的樸素貝葉斯分類器進(jìn)行重新分類。該方法避免了對文本的人工預(yù)分類，而且得到了較好的分類結(jié)果，提高了分類精度。 本文所做工作： 1.描述了文本挖掘的一般過程，著重介紹了模式挖掘中的聚類和分類技術(shù)。 2.分析了無監(jiān)督文本聚類和樸素貝葉斯分類方法的特點，將無監(jiān)督文本聚類方法和樸素貝葉斯分類方法相結(jié)合，提出了一個對不帶任何類別標(biāo)志的文本進(jìn)行準(zhǔn)確分類的方法UNBTC。 3.根據(jù)文本挖掘的一般過程，構(gòu)建了