基于信息增益的完全決策樹算法研究.pdf

1、決策樹分類算法作為數(shù)據(jù)挖掘技術(shù)中一個(gè)重要的分類方法，具有簡(jiǎn)潔且高效的分類效果。決策樹算法通過數(shù)據(jù)樣本集建立決策樹模型，進(jìn)而利用生成的模型對(duì)未知分類數(shù)據(jù)進(jìn)行分類。目前對(duì)于決策樹的研究已經(jīng)有40 多年的歷史，這期間誕生了許許多多不同的算法。其中較為經(jīng)典的ID3、C4.5、C5.0等算法均是基于信息增益理論的分類算法，這些算法有著理論清晰、方法簡(jiǎn)單且分類速度較快的特點(diǎn)。但同時(shí)信息增益理論在決策樹屬性分裂時(shí)，也存在著多值偏向等問題。本文結(jié)合信息

2、增益理論的優(yōu)勢(shì)，著眼于改進(jìn)決策樹算法的分類精度，主要研究?jī)?nèi)容是基于信息增益的完全決策樹算法。
　　 本文通過引入一種新型的決策樹節(jié)點(diǎn)，在屬性分裂時(shí)并非選擇單一分裂屬性，而是根據(jù)信息增益的評(píng)估結(jié)果，通過提出的范圍界定參數(shù)來選擇一系列分裂屬性，將此方法所得的決策樹稱為完全決策樹。節(jié)點(diǎn)的引入使得在保留了熵值計(jì)算的選擇標(biāo)準(zhǔn)前提下，進(jìn)一步改進(jìn)了算法穩(wěn)定性，提高了準(zhǔn)確度，更大的發(fā)揮了基于信息增益理論的決策樹算法潛力。
　　 本文將基