基于屬性選擇算法和支持向量機(jī)的組合預(yù)測模型研究.pdf

1、在移動互聯(lián)網(wǎng)高速發(fā)展的今天，人類已經(jīng)不可避免地生活在了海量數(shù)據(jù)日積月累的年代，諸如社交網(wǎng)絡(luò)、證券交易以及氣象變化等領(lǐng)域每天都有千兆兆字節(jié)（Peta-Byte，PB）的數(shù)據(jù)注入我們的計(jì)算機(jī)網(wǎng)絡(luò)、萬維網(wǎng)和計(jì)算機(jī)存儲設(shè)備。面對洪流般的數(shù)據(jù)，數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)和人工智能等學(xué)科蓬勃發(fā)展，這些工具幫助我們從海量數(shù)據(jù)中發(fā)現(xiàn)有價(jià)值的信息。其中，使用特定的學(xué)習(xí)模型根據(jù)已知數(shù)據(jù)來預(yù)測將來未知數(shù)據(jù)是目前研究的熱點(diǎn)，這使得我們可以使用預(yù)測的結(jié)果對事物做出更加正

2、確的決策。但是實(shí)踐中產(chǎn)生的大量數(shù)據(jù)通常具有不完整、冗余性、有噪聲等特性，如果不對數(shù)據(jù)進(jìn)行預(yù)處理就直接使用模型方法進(jìn)行處理，那么我們得到的結(jié)果肯定是受到一定損失的。以屬性選擇算法為代表的數(shù)據(jù)預(yù)處理則可以在一定程度上解決這一問題。通過屬性選擇，對數(shù)據(jù)的預(yù)測精度以及學(xué)習(xí)的效率都有諸多好處。
　　本文正是基于這一理論基礎(chǔ)，將目前比較流行的支持向量機(jī)學(xué)習(xí)器和幾種屬性選擇算法結(jié)合起來，設(shè)計(jì)出一種預(yù)測數(shù)據(jù)的組合模型并得到了不錯的結(jié)果。本文具體工

3、作如下：（1）研究了常見的三種屬性選擇算法：鄰域粗糙集屬性選擇算法、基于灰度關(guān)聯(lián)分析的屬性選擇算法以及基于線性相關(guān)性分析的屬性選擇算法。使用屬性選擇方法將高維度數(shù)據(jù)中冗余的屬性、對決策結(jié)果影響極弱的屬性以及某些噪聲屬性刪除，這對后續(xù)分析處理大有益處。（2）研究了支持向量機(jī)學(xué)習(xí)模型。支持向量機(jī)基于自身完善的理論基礎(chǔ)能夠很好的解決小樣本情況下的非線性學(xué)習(xí)問題，并最終得到全局最優(yōu)解。但是當(dāng)樣本數(shù)據(jù)量過大、樣本維度過高時(shí)，則會導(dǎo)致學(xué)習(xí)時(shí)間過長甚

4、至可能由于冗余數(shù)據(jù)產(chǎn)生過度擬合的情況，由此造成學(xué)習(xí)的精度和效率受到一定程度的折扣。（3）本文結(jié)合屬性選擇算法和支持向量機(jī)各自的優(yōu)點(diǎn)將兩者結(jié)合起來得到組合預(yù)測模型“屬性選擇-PSO-SVM”：分別將鄰域粗糙集、灰度關(guān)聯(lián)分析和線性相關(guān)分析這三種屬性選擇算法作為支持向量機(jī)學(xué)習(xí)模型的前端，首先將待處理的數(shù)據(jù)進(jìn)行降維操作，然后將預(yù)處理得到的結(jié)果作為支持向量機(jī)學(xué)習(xí)模型的輸入并得到學(xué)習(xí)結(jié)果。（4）本文使用來自UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫的10組數(shù)據(jù)集對設(shè)計(jì)的

5、組合模型進(jìn)行了驗(yàn)證，實(shí)驗(yàn)證明“屬性選擇-PSO-SVM”組合模型相比于單一的支持向量機(jī)學(xué)習(xí)模型，在預(yù)測精度和學(xué)習(xí)效率兩方面都有很大程度的改善。（5）本文通過實(shí)驗(yàn)對鄰域粗糙集、灰度關(guān)聯(lián)分析和線性相關(guān)性分析三種屬性選擇算法做了分析比較。實(shí)驗(yàn)證明：鄰域粗糙集屬性選擇算法對應(yīng)的組合模型在預(yù)測精度方面具有最大程度的提高；線性相關(guān)性分析屬性選擇算法對應(yīng)的組合模型對預(yù)測精度提高最小，但是該組合模型的整體學(xué)習(xí)時(shí)間卻是最少的；灰度關(guān)聯(lián)分析對應(yīng)的組合模型對