粒子群優(yōu)化加權(quán)隨機(jī)森林算法研究.pdf

1、隨機(jī)森林(Random Forest，RF)算法是2001年由Breiman提出的一種分類模型。其本質(zhì)是將 Bagging的 Bootstrap Aggregating算法和 Ho的隨機(jī)子空間（Random Subspace）算法結(jié)合起來，通過對(duì)多棵決策樹分類結(jié)果采取投票選取機(jī)制，確定最終的分類結(jié)果。
　　隨機(jī)森林算法自提出之后，被廣泛地運(yùn)用于數(shù)據(jù)挖掘與分類問題，后來還有許多學(xué)者對(duì)模型做出了改進(jìn)。隨機(jī)森林是一種高效的分類算法，隨機(jī)

2、森林模型的優(yōu)點(diǎn)在于它不需要樣本的背景知識(shí)，不用做變量選擇，擁有很高的噪聲容忍度，因此可省略數(shù)據(jù)預(yù)處理的繁瑣工作。但模型中的投票選取機(jī)制會(huì)導(dǎo)致一些訓(xùn)練精度較低的決策樹也擁有相同的投票能力，從而降低投票準(zhǔn)確度。而且隨機(jī)森林模型中的決策樹棵數(shù)及其它參數(shù)的選取通常對(duì)隨機(jī)森林的最終分類結(jié)果也有較大的影響。
　　針對(duì)那些訓(xùn)練精度不優(yōu)、投票能力相對(duì)較差的決策樹，本文通過對(duì)傳統(tǒng)隨機(jī)森林算法進(jìn)行詳細(xì)試驗(yàn)與分析，基本確定了傳統(tǒng)隨機(jī)森林算法性能不足的原

3、因：隨機(jī)森林投票選取機(jī)制會(huì)導(dǎo)致一些訓(xùn)練精度較低的決策樹也擁有相同的投票能力，這對(duì)隨機(jī)森林最終的分類結(jié)果準(zhǔn)確率造成較大的影響。在分類的同時(shí)也可能會(huì)產(chǎn)生多個(gè)類別的最高票數(shù)相同而最終導(dǎo)致難以分類的現(xiàn)象，本文將此現(xiàn)象定義為“死局現(xiàn)象”。
　　為解決低精度決策和高票數(shù)競(jìng)爭(zhēng)帶來的分類困難，本文以傳統(tǒng)隨機(jī)森林模型為基礎(chǔ)提出一種精確度加權(quán)隨機(jī)森林算法(Accuracy Weighted Random Forest，AWRF)，即在投票時(shí)將每棵決策