1329.常用文本分類算法的分析與研究

1、常用文本分類算法的分析與研究重慶大學(xué)碩士學(xué)位論文(專業(yè)學(xué)位)學(xué)生姓名：楊康指導(dǎo)教師：李東副教授學(xué)科類別：應(yīng)用統(tǒng)計(jì)重慶大學(xué)數(shù)學(xué)與統(tǒng)計(jì)學(xué)院二O一七年五月重慶大學(xué)碩士學(xué)位論文中文摘要I摘要大數(shù)據(jù)時(shí)代到來，各領(lǐng)域據(jù)所積累的數(shù)據(jù)爆炸式增長，越來越多的數(shù)據(jù)價(jià)值等待著我們?nèi)ネ诰?，這使得數(shù)據(jù)挖掘這門技術(shù)近幾年來變得炙手可熱。由于傳統(tǒng)的數(shù)據(jù)分析方式并不能處理文本數(shù)據(jù)，文本之類的非結(jié)構(gòu)化數(shù)據(jù)中的價(jià)值并沒有得到充分的挖掘。因此相較對傳統(tǒng)結(jié)構(gòu)化數(shù)據(jù)的挖掘，文本

2、挖掘似乎更符合當(dāng)下的時(shí)代背景和現(xiàn)實(shí)需求。文本分類是文本挖掘研究的熱點(diǎn)方向且極具實(shí)用價(jià)值，因此文本分類被廣泛的應(yīng)用到各領(lǐng)域。理論部分，本文從文本挖掘的概念開始，逐步介紹了文本挖掘的相關(guān)知識，包括文本預(yù)處理、權(quán)重計(jì)算、特征選擇以及文本表示等。重點(diǎn)介紹了文本分類的常用統(tǒng)計(jì)學(xué)習(xí)方法，如最近鄰算法（KNN）、樸素貝葉斯算法（NB）和決策樹算法（DT）等，并分析了各自算法的特點(diǎn)。在集成學(xué)習(xí)方面，概述了Bagging和Boosting兩種方法的相關(guān)理

3、論，比較了兩種方法的異同，并重點(diǎn)介紹了具有代表性的隨機(jī)森林算法。實(shí)證部分，首先選取了三種常用的單一分類模型算法，比較了其在文本分類方面的表現(xiàn)。從分類精度來看，KNN算法因其較好的穩(wěn)定性和靈活性表現(xiàn)要好于樸素貝葉斯算法和決策樹方法。此外，在同一份數(shù)據(jù)上我們建立了隨機(jī)森林模型，比較了其與KNN算法的分類效果，結(jié)果證明集成學(xué)習(xí)分類模型在精度方面確實(shí)優(yōu)于單一分類模型。最后考慮到在實(shí)際應(yīng)用過程中通常文本數(shù)據(jù)規(guī)模較大，嘗試了一種基于單機(jī)的文本分類模