樸素貝葉斯分類及其應用研究.pdf

1、樸素貝葉斯是數(shù)據(jù)挖掘領域重要的分類算法之一,與其它方法相比,樸素貝葉斯方法具有算法簡單、分類效果穩(wěn)定和速度快等特點。樸素貝葉斯模型一般假設屬性之間相互獨立,然而這個假設在實際應用中往往是不成立的,這給樸素貝葉斯模型的分類性能帶來一定影響。對此,現(xiàn)有大量研究工作試圖通過放松屬性間的獨立性假設來提高樸素貝葉斯分類的性能,主要可以分為結構擴展、局部學習、屬性選擇和屬性加權。
　　 本文重點從結構擴展和屬性加權兩個方面改進樸素貝葉斯分類

2、模型。具體研究工作包括:
　　 1)結構擴展方面:采用關聯(lián)規(guī)則中的頻繁項集來體現(xiàn)多屬性之間的關聯(lián)性,從而避免了強屬性集的選擇過程,并構造了一種雙層貝葉斯結構；針對基于頻繁項集的貝葉斯分類算法(FISC)存在的概率估計方式粗糙和分類器集成過于簡單的缺點,分別提出了基于M-估計的貝葉斯分類算法(FISC-M)和加權集成的貝葉斯分類算法(WFISC)；為解決FISC時間開銷較大的問題,提出了項集長度約束條件,在保證分類精度的前提下縮短

3、了算法的運行時間,進一步提升了FISC-M和WFISC的性能。實驗結果表明,FISC-M與WFISC的性能大大超越了原始的FISC,并且優(yōu)于目前性能較優(yōu)的一些貝葉斯分類算法。
　　 2)屬性加權方面:將變精度粗糙集理論應用到貝葉斯分類算法中,提出了一種基于變精度粗糙集的屬性加權樸素貝葉斯分類算法(AWNB-VPRS)。該算法采用變精度粗糙集方法來確定屬性的重要程度,綜合考慮了屬性的加權近似精度和屬性的信息增益。實驗結果表明AWN