基于機(jī)器學(xué)習(xí)的文本分類算法研究與應(yīng)用.pdf

1、近些年信息網(wǎng)絡(luò)技術(shù)飛快發(fā)展，特別是網(wǎng)絡(luò)使用率的大幅提升，用文本形式表示的信息已經(jīng)越來越多，人們?cè)缫呀?jīng)不能單純依靠人工勞力達(dá)到高效率地獲取到海量信息中的關(guān)鍵內(nèi)容。為了解決這個(gè)問題，基于機(jī)器學(xué)習(xí)的文本分類方法開始為人們所知道并逐漸呈現(xiàn)熱門趨勢(shì)。本文主要的研究內(nèi)容如下：
　　1.本文提出了一種能有效降低空間維度的概念索引及主成分分析算法。該算法通過計(jì)算分類的原型向量，通過原始文本向量和原型向量做內(nèi)積，將原始文本投影到子空間，從而將原始空

2、間的維度大大降低。然后，分別計(jì)算每個(gè)內(nèi)部文檔分類的協(xié)方差矩陣，進(jìn)而得到其特征值與特征向量，將每一個(gè)向量被轉(zhuǎn)移到新的子空間。通過兩種技術(shù)的結(jié)合來實(shí)現(xiàn)在不影響分類精確度的情況下達(dá)到維數(shù)降低的目標(biāo)。
　　2.本文提出了一種基于語境的文本學(xué)習(xí)算法。該算法的核心分為分類訓(xùn)練集與語境學(xué)習(xí)分類。分類訓(xùn)練集主要根據(jù)關(guān)鍵詞詞頻分類，并給每個(gè)類一個(gè)相應(yīng)的指數(shù)，計(jì)算每個(gè)分類中所有的文檔里的特征詞權(quán)重，通過反復(fù)迭代從而給出特征詞的評(píng)分。語境學(xué)習(xí)分類先通過

3、關(guān)聯(lián)規(guī)則挖掘算法得到特征詞，再將特征詞構(gòu)成語境特征詞矩陣，所有矩陣的值都是用于評(píng)分的參考值，并且都是通過訓(xùn)練所有語境的數(shù)據(jù)而獲得的，評(píng)分的參考值強(qiáng)調(diào)了該特征詞對(duì)于語境的重要性，對(duì)每一個(gè)特征詞而言，求出所有語境評(píng)分參考值的和，那么具有最高評(píng)分參考值的語境就被設(shè)置為輸入文本的語境。該算法結(jié)合傳統(tǒng)統(tǒng)計(jì)分析和語境分析，能夠一次性地學(xué)習(xí)一個(gè)文檔內(nèi)的所有分類。
　　3. 本文對(duì)提出的算法進(jìn)行了詳細(xì)的實(shí)驗(yàn)并給出了相應(yīng)的分析與結(jié)果。本文采用了5個(gè)

4、經(jīng)典的數(shù)據(jù)集作為實(shí)驗(yàn)對(duì)象，每個(gè)數(shù)據(jù)集都超過上千條數(shù)據(jù)。在不同的數(shù)據(jù)集上，本文提出的算法與經(jīng)典高效的算法進(jìn)行了詳細(xì)比較，評(píng)價(jià)算法性能。實(shí)驗(yàn)表明：兩種算法都能夠高效地分類文本，且具備較強(qiáng)的實(shí)用性。
　　本文提出的兩種學(xué)習(xí)算法從不同角度處理訓(xùn)練集，前者通過降維，而后者通過評(píng)分排序，但都可以降低學(xué)習(xí)成本，提高分類準(zhǔn)確度。通過仿真實(shí)驗(yàn)可以清晰地看出，該算法在各類數(shù)據(jù)集，尤其是復(fù)雜度很高的數(shù)據(jù)集上，優(yōu)于現(xiàn)有的很多高效算法。最后對(duì)本文所提出的兩