基于決策樹(shù)分類算法的噪聲容錯(cuò)性研究.pdf

1、數(shù)據(jù)分類是一種重要的數(shù)據(jù)挖掘技術(shù)，常用的數(shù)據(jù)分類方法有決策樹(shù)歸納分類、貝葉斯分類、神經(jīng)網(wǎng)絡(luò)分類和K最鄰近分類等，采用的理論及算法有決策樹(shù)(Decision Tree)、粗糙集(Rough set)、人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network)、遺傳算法(Genetic Algorithms)等。
　　 ID3算法以信息熵作為屬性選擇的標(biāo)準(zhǔn)，是經(jīng)典的決策樹(shù)算法，但該算法沒(méi)有考慮噪聲數(shù)據(jù)的影響，使得算法的抗噪聲

2、能力比較差。針對(duì)上述的不足，本文分別結(jié)合粗糙集理論、人工神經(jīng)網(wǎng)絡(luò)對(duì)ID3算法作了改進(jìn)研究，主要內(nèi)容包括:
　　 首先，對(duì)決策樹(shù)、可變精度粗糙集理論進(jìn)行了系統(tǒng)的研究，分析了變精度粗糙集中分類質(zhì)量與分類正確率的關(guān)系?？紤]到可變精度粗糙集理論在處理噪聲數(shù)據(jù)方面具有較強(qiáng)的抑制能力，以及實(shí)際應(yīng)用中常關(guān)心的分類質(zhì)量問(wèn)題，提出了基于分類質(zhì)量的變精度ID3算法。
　　 與此同時(shí)，結(jié)合粗糙集理論中屬性約簡(jiǎn)算法可以在不影響分類能力的前提下對(duì)

3、數(shù)據(jù)集進(jìn)行簡(jiǎn)化的特性，本文還提出了變精度的屬性約簡(jiǎn)算法。
　　 其次，考慮到神經(jīng)網(wǎng)絡(luò)具有魯棒性、自適應(yīng)性和高度容錯(cuò)性等特點(diǎn)，并且在利用粗糙集理論知識(shí)構(gòu)建決策樹(shù)算法的屬性選擇標(biāo)準(zhǔn)啟發(fā)下，提出了基于樣條權(quán)函數(shù)神經(jīng)網(wǎng)絡(luò)的決策樹(shù)生成算法。
　　 隨后，分別對(duì)基于分類質(zhì)量的變精度ID3算法及基于樣條權(quán)函數(shù)神經(jīng)網(wǎng)絡(luò)的決策樹(shù)算法構(gòu)建了分類器，用UCI數(shù)據(jù)庫(kù)中的多個(gè)數(shù)據(jù)集作為測(cè)試數(shù)據(jù)進(jìn)行了實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明改進(jìn)后的決策樹(shù)生成算法在抑制噪