基于決策樹的屬性約簡方法研究.pdf

1、分類是數(shù)據(jù)挖掘的一項核心任務(wù)，而分類的依據(jù)常常是所關(guān)心的問題的某些方面的特征（通常稱之為屬性）。由于數(shù)據(jù)庫中的數(shù)據(jù)往往與給定的屬性集中的某些屬性的狀態(tài)（即取值）無關(guān)或關(guān)聯(lián)不大，直接采用給定的屬性集來挖掘知識將增大數(shù)據(jù)挖掘的難度，特別，對于巨型數(shù)據(jù)庫而言，可能會導(dǎo)致相關(guān)數(shù)據(jù)挖掘算法的失效，因而，如何精練數(shù)據(jù)挖掘的屬性集（稱之為屬性約簡），是數(shù)據(jù)挖掘的一個關(guān)鍵環(huán)節(jié)。 目前的屬性約簡算法大都是以波蘭數(shù)學(xué)家Z．Pawlak于1982年提

2、出的粗糙集作為理論基礎(chǔ)，其主要思想就是在保持分類能力不變的前提下，通過約簡，導(dǎo)出問題的決策或分類規(guī)則。雖然這些算法均具有良好的理論基礎(chǔ)，但它們的空間復(fù)雜度和時間復(fù)雜度都較高，不能有效地處理大型數(shù)據(jù)庫的屬性約簡問題。 決策樹算法是目前機器學(xué)習(xí)領(lǐng)域中最為成熟的內(nèi)容，其優(yōu)點為：1）決策樹方法結(jié)構(gòu)簡單，無需了解很多的背景知識；2）決策樹模型效率較高，對訓(xùn)練樣本集數(shù)據(jù)量較大的情況尤為適合；3）決策樹算法的計算量相對較??；4）決策樹方法具有

3、較高的分類精確度。 因此，本文結(jié)合決策樹算法操作簡單、分類速度快的特點，通過將知識庫抽象為規(guī)則族及規(guī)則族之間的相似性比較，建立了一種基于決策樹的屬性約簡方法（簡記為BD—RED），具體工作如下：1）建立了規(guī)則的形式化描述模式；2）從結(jié)構(gòu)化的角度討論了規(guī)則族之間的相似性度量的構(gòu)建問題；3）給出了BD—RED的具體實施原則；4）結(jié)合具體實例分析了BD—RED的特征和性能。結(jié)果表明，BD—RED具有良好的結(jié)構(gòu)特征和較強的可操作性，可以