面向樸素貝葉斯算法的離散化方法研究.pdf

1、在數(shù)據(jù)挖掘領(lǐng)域中，有很多算法只能處理定性屬性.樸素貝葉斯分類算法在處理定量屬性時(shí)作了正態(tài)分布的假設(shè).然而，這一假設(shè)與實(shí)際常常是相違背的，從而嚴(yán)重制約了樸素貝葉斯算法的分類性能.因此，在運(yùn)用分類算法之前，通常需要離散化.離散化是數(shù)據(jù)挖掘領(lǐng)域的一個(gè)重要方面，它是一個(gè)從定量數(shù)據(jù)到定性數(shù)據(jù)的轉(zhuǎn)化過程，它不僅能夠有效地提高分類器的分類精度及效率，也能夠使更多的數(shù)據(jù)挖掘算法應(yīng)用于含有定量屬性的數(shù)據(jù)集中，具有重要的現(xiàn)實(shí)意義及研究價(jià)值. 首先，

2、本文對數(shù)據(jù)的分類與度量進(jìn)行了分析.然后，闡述了數(shù)據(jù)挖掘和分類的相關(guān)理論，介紹了樸素貝葉斯算法及其定量屬性的處理方法.接著分析了離散化的研究現(xiàn)狀，重點(diǎn)指出了離散化對樸素貝葉斯算法的有效性.在深入研究熵最小離散化方法(EMD)和MDL準(zhǔn)則的基礎(chǔ)上，分析了EMD方法的缺陷，提出了一種基于MDL的多元離散化方法Multi-EMD.該方法借鑒了EMD方法中尋找切點(diǎn)的方法，在評價(jià)切點(diǎn)時(shí)使用了一種多元的MDL準(zhǔn)則，該準(zhǔn)則綜合考慮了數(shù)據(jù)集中所有數(shù)值型屬

3、性的作用，從而對切點(diǎn)的評價(jià)更可靠.本文還深入研究了比例離散化方法(PKI)，將EMD方法與PKI方法相結(jié)合，使用熵最小方法來尋找切點(diǎn)，使用PKI方法計(jì)算離散化區(qū)間數(shù)量，提出了比例熵最小離散化方法PEMD.最后，介紹了數(shù)據(jù)挖掘平臺Weka系統(tǒng)的概況及其架構(gòu)，在此平臺上實(shí)現(xiàn)了Multi-EMD和PEMD方法，并通過實(shí)驗(yàn)比較了EMD，Mutli-EMD，PKI以及PEMD方法。實(shí)驗(yàn)結(jié)果與分析表明，在這4個(gè)方法之中，Multi-EMD比。EMD