基于詞向量和主題向量的文本分類(lèi)算法研究.pdf

1、隨著互聯(lián)網(wǎng)的飛速發(fā)展，我們每天面對(duì)著越來(lái)越多需要處理的文本信息。如何從海量的文本信息中提取出所需要的目標(biāo)信息，從而給人們更好的服務(wù)與體驗(yàn)是我們面臨的一項(xiàng)主要挑戰(zhàn)。文本分類(lèi)算法則是完成這項(xiàng)挑戰(zhàn)中的一項(xiàng)重要技術(shù)。文本分類(lèi)作為一項(xiàng)基礎(chǔ)技術(shù)，已經(jīng)涉及到圖書(shū)館智能化管理、新聞個(gè)性化推薦、文本情感分析、文本信息過(guò)濾等方面，這些應(yīng)用使人們的生活更加便捷。本文在分析原有的文本分類(lèi)技術(shù)的基礎(chǔ)上，發(fā)現(xiàn)原有算法的不足，從而提出了一種新的文本特征提取框架，主要

2、工作內(nèi)容如下：
　　(1)分析了詞向量算法可以計(jì)算詞語(yǔ)間相似度，將其引入到文本分類(lèi)特征提取中有利于構(gòu)建更優(yōu)秀的特征，選擇了性能和速度都更優(yōu)秀的Word2Vec詞向量計(jì)算算法。但是詞向量無(wú)法解決一詞多義問(wèn)題，而且詞向量只表示了上下文詞語(yǔ)關(guān)系，缺少文本全局信息。本文提出了一種將主題與詞向量計(jì)算結(jié)合的方法，得到了與詞向量類(lèi)似的主題向量。因?yàn)橄嗤脑~語(yǔ)可能具有不同的主題向量，并且主題向量是一種全局級(jí)別的信息。將主題向量和詞向量結(jié)合的方法，

3、在改善了一詞多義問(wèn)題的同時(shí)引入了全文信息。
　　(2)一些文本特征提取方法直接使用詞向量累加或者類(lèi)似的低維度特征方法。這種低維的特征對(duì)表達(dá)字典維度巨大的文本特征不利，拋棄了高維向量空間模型對(duì)文本分類(lèi)問(wèn)題的優(yōu)勢(shì)。文本提出了一種保留向量空間模型的Adaptive-means聚類(lèi)算法，這種自適應(yīng)聚類(lèi)算法將詞向量與主題向量結(jié)合，使得在文本中含義相近的詞語(yǔ)聚為一類(lèi)，從而在最終文本特征表達(dá)時(shí)相似的詞語(yǔ)對(duì)特征貢獻(xiàn)相同。本文還利用n-gram增加