屬性敏感性在決策樹歸納中的影響.pdf

1、決策樹算法是對一組已知示例進(jìn)行歸納學(xué)習(xí)，并生成一棵決策樹的方法，該算法己被廣泛的應(yīng)用于自動(dòng)知識(shí)獲取領(lǐng)域。ID3算法是一種典型的決策樹歸納算法，這種算法在假定示例的屬性值和分類值是確定的前提下，使用信息熵作為啟發(fā)式建立一棵清晰的決策樹。而模糊決策樹歸納是從具有模糊表示的示例中學(xué)習(xí)規(guī)則的一種重要方法，從符號(hào)值屬性類分明的數(shù)據(jù)中提取規(guī)則可視為模糊決策樹歸納的一種特殊情況。模糊決策樹算法是清晰決策樹算法的一種推廣。由于構(gòu)建最優(yōu)的模糊決策樹是NP

2、-hard，因此，針對啟發(fā)式算法的研究是非常必要的。本文主要是對兩種啟發(fā)式算法即FuzzyID3和Min-Ambiguity算法應(yīng)用于符號(hào)值屬性并且類分明情況所作的分析比較。通過實(shí)驗(yàn)與理論分析，發(fā)現(xiàn)FuzzyID3算法應(yīng)用于符號(hào)值屬性類分明的數(shù)據(jù)庫時(shí)從訓(xùn)練準(zhǔn)確度、測試準(zhǔn)確度和樹的規(guī)模等方面都要優(yōu)于Min-Ambiguity算法。同時(shí)，在本文中，我們提出了一種新的啟發(fā)式算法。目前，已有許多種構(gòu)建決策樹的方法，大多數(shù)是基于信息熵的或信息的不