基于Spark的一種改進的隨機森林算法研究.pdf

1、隨機森林算法是一種具有優(yōu)秀分類性能的機器學習算法，它具有擅長處理大規(guī)模數(shù)據(jù)集、可以處理多達幾千個屬性的數(shù)據(jù)集、需要調整的參數(shù)少、不會出現(xiàn)過擬合等特點。因此隨機森林算法在各個領域都得到了廣泛的應用和發(fā)展，吸引了大量的學者對其進行改進和研究，并取得了豐碩的成果。但是傳統(tǒng)隨機森林算法在生成隨機森林模型的過程中，一是生成的決策樹模型在分類性能上參差不齊，二是決策樹模型之間會有相關性，那些分類性能差的決策樹以及相互之間相關性強的決策樹會對隨機森林

2、模型的整體分類性能產(chǎn)生消極的影響。
　　本研究針對傳統(tǒng)隨機森林的這兩個特性，提出了一種基于分類精度和相似度的改進的隨機森林算法。該算法選用分類性能評價指標AUC值對隨機森林模型中的決策樹模型的分類性能進行評判，選出其中分類性能在設定閾值之上的決策樹模型；然后對選出的分類性能好的決策樹模型進行相似度計算，得到這些決策樹模型之間的相似度矩陣，因為相似度高的決策樹，他們之間的相關性就高，所以再根據(jù)相似度矩陣和相似度評判標準對這些決策樹模

3、型進行聚類；最后選出每一個聚類中AUC值最高的決策樹作為這一個聚類的代表，從而組成新的隨機森林模型。通過對心臟病、乳腺癌、Pima印第安人糖尿病和印度肝病等UCI數(shù)據(jù)集的測試結果表明，本文提出的基于分類精度和相關性的改進的隨機森林算法比傳統(tǒng)的隨機森林算法在分類精度上有了一定的提升。在MATLAB平臺上對改進的隨機森林算法進行了實現(xiàn)，然后通過設計實驗在四個UCI數(shù)據(jù)集上對改進的隨機森林算法和傳統(tǒng)的隨機森林算法在分類精度上進行了比較，結果表