基于神經網絡和詞共現模型的垃圾郵件分類器研究.pdf

1、互聯網已經成為現代生活中不可分割的一部分,互聯網時代人們之間的聯系交流日益緊密,電子郵件作為非常重要的非即時聯系方式,顯示出越來越高的重要性。但是由于電子郵件現有的收發(fā)協議的缺陷以及利益的驅使,導致了目前互聯網上垃圾郵件泛濫成災。越來越多的垃圾郵件侵占了有限的存儲、計算和網絡資源,耗費了用戶大量的處理時間,影響和干擾了用戶的正常工作、生活和學習。如何有效地治理垃圾郵件問題是全世界共同面臨的一道難題,也是目前互聯網上亟待解決的問題。

2、>　　目前,經常采用的垃圾郵件過濾技術一般包括白名單與黑名單技術、基于規(guī)則的過濾以及基于關鍵詞匹配的內容掃描等。另外還有一個研究方向就是從電子郵件的文本內容入手,使用文本分類算法,對郵件進行分類。垃圾郵件過濾中常用的文本分類方法有簡單貝葉斯、k-近鄰、決策樹等。近年來隨著小型計算機性能的提高,基于神經網絡的分類方法研究也越來越多。張鈴和張鈸教授于1999提出的交叉覆蓋算法,也是神經網絡算法的一種。交叉覆蓋算法是利用了M-P神經元模型的幾

3、何意義得到的一種領域覆蓋的算法,它在一定意義上考慮到了網絡結構的優(yōu)化問題,可以使得產生的神經網絡的規(guī)模較小,而且方法實用、可行,解決了多年以來一直未能很好解決的前向網絡設計問題。
　　傳統的基于內容識別的垃圾郵件過濾方法主要采用向量空間模型來表示郵件文檔。向量空間模型假設詞與詞間不相關,以向量來表示文本,從而簡化了文本中的關鍵詞之間的復雜關系,文檔用十分簡單的向量表示,使得模型具備了可計算性。向量空間模型把文檔簡化為以詞為單位的項

4、,每項都有權重,項即是向量空間中的維度,權重即是維度的大小。這樣每篇文檔就被表示為一個n維空間中的向量,就可以通過空間向量的運算來處理文檔,使得問題的復雜性大大降低。但是這種表示方法是以詞與詞之間不相關為前提,模型沒有考慮文檔中上下文詞語之間的語義聯系。而詞共現模型是一種以統計為基礎的自然語言處理模型,研究發(fā)現,兩個詞經常共同出現在文檔的同一窗口單元(如一句話、一個自然段等),則可以認為這兩個詞在意義上是相互關聯的,并且共現的概率越高,

5、其相互關聯越緊密?；谶@樣的思想,本文將傳統的向量空間模型和詞共現模型結合起來表示郵件文檔,在傳統方法的基礎上,增加使用詞共現模型選取出的一部分詞共同構成向量空間來表示郵件,再采用交叉覆蓋算法構建垃圾郵件過濾分類器。實驗表明,本文提出的方法能夠提高郵件過濾的性能。
　　縱觀全文,主要做了以下工作:
　　1)分析了現有的郵件過濾技術,并做了歸納總結。
　　2)提出了基于詞共現模型和向量空間模型的郵件表示方法,以及在此基礎