基于支持向量機(jī)的選擇性集成算法研究.pdf

1、支持向量機(jī)是以統(tǒng)計(jì)學(xué)習(xí)理論為基礎(chǔ)的機(jī)器學(xué)習(xí)方法，在處理小樣本、非線性、高維數(shù)據(jù)中得到了很好的效果，它具有全局性最優(yōu)、結(jié)構(gòu)簡(jiǎn)單、較好的推廣性能等優(yōu)點(diǎn)，已成功應(yīng)用于諸多領(lǐng)域。然而，支持向量機(jī)算法仍然存在核函數(shù)及其參數(shù)的選取、對(duì)高維數(shù)據(jù)處理時(shí)間問題等諸多不足，這些不足會(huì)影響支持向量機(jī)穩(wěn)定性和泛化能力。
　　目前，支持向量機(jī)在訓(xùn)練過程中大多數(shù)采用單個(gè)支持向量機(jī)，關(guān)于多個(gè)支持向量機(jī)相結(jié)合的研究并不多。集成學(xué)習(xí)通過多個(gè)學(xué)習(xí)器解決同一問題，能夠

2、顯著的提高學(xué)習(xí)系統(tǒng)的泛化能力。選擇性集成不僅在對(duì)集成系統(tǒng)中所占存儲(chǔ)和計(jì)算量較大的問題上有了很好的改善，而且能夠有效提高集成系統(tǒng)的分類準(zhǔn)確度。因此，支持向量機(jī)的選擇性集成逐漸成為支持向量機(jī)研究中的一個(gè)重要方向。
　　本文主要對(duì)支持向量機(jī)、集成學(xué)習(xí)的理論基礎(chǔ)、實(shí)現(xiàn)方法以及在實(shí)際應(yīng)用中做了系統(tǒng)的研究和分析。針對(duì)支持向量機(jī)在集成學(xué)習(xí)和選擇性集成學(xué)習(xí)中存在的問題，提出了基于和聲搜索算法的支持向量機(jī)選擇性集成方法，首先運(yùn)用Bagging抽樣方