集成學(xué)習(xí)及其應(yīng)用研究.pdf

1、集成學(xué)習(xí)(EnsembleLearning)是一種機(jī)器學(xué)習(xí)范式,是當(dāng)前的研究熱點(diǎn)之一,在多個(gè)領(lǐng)域有了很好的應(yīng)用。但集成學(xué)習(xí)技術(shù)還沒有成熟,在研究過程中仍然存在著眾多待解決的問題,在應(yīng)用上也和人們期待的水平相去甚遠(yuǎn)。
　　本文對(duì)集成學(xué)習(xí)進(jìn)行了深入地研究,一方面分析了現(xiàn)有方法的優(yōu)劣。另一方面,研究了影響集成效果的各個(gè)因素,這為進(jìn)一步改進(jìn)集成學(xué)習(xí)做好鋪墊。在現(xiàn)有算法的研究基礎(chǔ)上,提出了新的集成學(xué)習(xí)方法:針對(duì)某些個(gè)體分類器對(duì)集成效果起較小

2、的作用或起消極作用的情況,本文提出了“基于信息增益的分類器選擇”方法,這種方法首先需要構(gòu)造分類器空間,然后計(jì)算個(gè)體分類器信息增益,根據(jù)信息增益刪除一個(gè)或若干個(gè)個(gè)體分類器,最后再將剩余的分類器集成,實(shí)驗(yàn)結(jié)果表明經(jīng)過信息增益選擇分類器后的集成要優(yōu)于不進(jìn)行處理的情況;針對(duì)數(shù)據(jù)集中不是所有的特征都對(duì)集成起積極作用的情況,本文提出了“基于改進(jìn)遺傳算法的特征選擇”方法,該方法將機(jī)器學(xué)習(xí)應(yīng)用到遺傳算法中,達(dá)到有效選擇特征的目的,然后在處理過的數(shù)據(jù)集上

3、使用集成學(xué)習(xí),實(shí)驗(yàn)證明經(jīng)過此方法處理的數(shù)據(jù)集不但在集成效果有了很大提高,而且大大縮短訓(xùn)練時(shí)間。最后,本文還對(duì)集成學(xué)習(xí)的應(yīng)用進(jìn)行了研究,第一,詳細(xì)分析了入侵檢測(cè)數(shù)據(jù)集(KDDCUP99、UCI)。第二,對(duì)KDDCUP99做了適當(dāng)?shù)奶幚?然后成功將集成學(xué)習(xí)方法應(yīng)用到此數(shù)據(jù)集上。第三,比較了經(jīng)典的集成學(xué)習(xí)方法和本文提出的集成學(xué)習(xí)方法在入侵檢測(cè)數(shù)據(jù)集上的效果。
　　本文通過多次實(shí)驗(yàn)和應(yīng)用實(shí)例對(duì)提出的新方法進(jìn)行了驗(yàn)證,結(jié)果表明新方法是有效性