基于一類(lèi)分類(lèi)的線(xiàn)性規(guī)劃支持向量回歸算法.pdf

1、支持向量機(jī)（Support Vector Machine，簡(jiǎn)稱(chēng)SVM）是以統(tǒng)計(jì)學(xué)習(xí)理論(StatisticalLearning Theory，簡(jiǎn)稱(chēng)SLT)為基礎(chǔ)的優(yōu)秀算法。此理論是專(zhuān)門(mén)針對(duì)小樣本情況的統(tǒng)計(jì)學(xué)原理。傳統(tǒng)的統(tǒng)計(jì)方法會(huì)出現(xiàn)“過(guò)學(xué)習(xí)”等問(wèn)題，這是由于傳統(tǒng)的統(tǒng)計(jì)方法基于的統(tǒng)計(jì)學(xué)原理都是將樣本數(shù)據(jù)近似看成無(wú)窮大，但實(shí)際情況中樣本數(shù)據(jù)是有限的。所以統(tǒng)計(jì)學(xué)原理與它們相比，更適應(yīng)現(xiàn)實(shí)中的實(shí)際問(wèn)題。在此理論上建立的支持向量機(jī)泛化能力更好。而

2、核函數(shù)思想的引入，不僅解決了非線(xiàn)性情況，更避免了“維數(shù)災(zāi)難”，降低了實(shí)際的運(yùn)算難度。
　　支持向量機(jī)提出是針對(duì)二值分類(lèi)問(wèn)題，由于其良好的表現(xiàn)，人們逐漸將其推廣到其它分類(lèi)和回歸領(lǐng)域。目前在分類(lèi)方面的研究已經(jīng)相對(duì)完善，而回歸方面還在不斷完善。支持向量回歸機(jī)研究中較重要的一項(xiàng)就是改進(jìn)算法。由于支持回歸機(jī)是在支持向量分類(lèi)機(jī)的基礎(chǔ)上發(fā)展而來(lái)的，二者有密切的內(nèi)在聯(lián)系，我們以二值分類(lèi)和回歸為例證明了這種理論上的等價(jià)性?；诖宋覀兛梢詫⒁延械姆诸?lèi)

3、算法應(yīng)用到回歸問(wèn)題中，變成一種新的回歸算法。本文就是應(yīng)用這種思路提出一種新的算法。
　　本文提出的新算法是以一類(lèi)分類(lèi)思想為基礎(chǔ)的。一類(lèi)分類(lèi)算法是一種較特殊的分類(lèi)問(wèn)題，它是針對(duì)異常值檢測(cè)的。而基于這種分類(lèi)算法的新算法，是一種線(xiàn)性規(guī)劃回歸算法，與那些基于二次規(guī)劃的算法相比，運(yùn)算速度更快。我們通過(guò)正弦函數(shù)、混沌時(shí)間序列這兩個(gè)實(shí)驗(yàn)，將新算法與標(biāo)準(zhǔn)支持向量回歸法、最小二乘支持向量回歸法、線(xiàn)性規(guī)劃支持向量回歸法比較，發(fā)現(xiàn)新算法的泛化能力要優(yōu)于