支持向量回歸機(jī)理論及其工業(yè)應(yīng)用研究.pdf

1、基于數(shù)據(jù)的機(jī)器學(xué)習(xí)是現(xiàn)代智能信息處理技術(shù)十分重要的一個(gè)方面,主要研究如何從一些觀測(cè)數(shù)據(jù)出發(fā)得出目前尚不能通過(guò)原理分析得到的規(guī)律,從而利用這些規(guī)律去分析、認(rèn)識(shí)客觀對(duì)象,并對(duì)未來(lái)數(shù)據(jù)或無(wú)法觀測(cè)的數(shù)據(jù)進(jìn)行預(yù)測(cè)。
　　支持向量機(jī)是在統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ)上發(fā)展起來(lái)的一種新的機(jī)器學(xué)習(xí)方法。它最先由Vapnik及其合作者在20世紀(jì)90年代提出,近年來(lái)無(wú)論是從理論研究、算法實(shí)現(xiàn)還是應(yīng)用方面都有了突飛猛進(jìn)的發(fā)展。
　　然而,作為一種相對(duì)年輕的技術(shù)

2、,支持向量機(jī)在許多方面仍不完善。因此進(jìn)一步發(fā)展和完善支持向量機(jī)的理論和方法,以及拓展支持向量機(jī)在實(shí)際中的應(yīng)用范圍具有十分重要的意義。本文針對(duì)支持向量回歸機(jī)理論和應(yīng)用兩方面進(jìn)行研究和探索,主要工作包括以下幾個(gè)方面:
　　1)提出了一種基于信息幾何的支持向量回歸機(jī)核函數(shù)構(gòu)建算法。支持向量機(jī)的性能在很大程度上依賴(lài)于核函數(shù)的選取,然而目前對(duì)于核函數(shù)的選擇還缺乏理論指導(dǎo)。在從信息幾何角度分析核函數(shù)幾何結(jié)構(gòu)的基礎(chǔ)上,提出一種核函數(shù)構(gòu)建算法,使

3、得核函數(shù)能充分利用樣本數(shù)據(jù)的信息,從而提高支持向量回歸機(jī)的性能;在鋼水溫度預(yù)報(bào)中的應(yīng)用表明了方法的有效性。
　　2)證明了核框架下SILF-SVR與普通Kriging的等價(jià)性關(guān)系。從數(shù)值分析的角度看,支持向量回歸機(jī)是一種數(shù)據(jù)插值方法。在給出一種由新的“統(tǒng)一”損失函數(shù)(SILF)得到的支持向量回歸機(jī)的“統(tǒng)一”表達(dá)式(SILF-SVR)后,證明了其與另一種數(shù)據(jù)插值方法——普通Kriging的等價(jià)性;并根據(jù)兩者的等價(jià)性關(guān)系給出一種核函數(shù)

4、參數(shù)的選擇方法。
　　3)提出了一種基于領(lǐng)域知識(shí)的支持向量回歸機(jī)算法。標(biāo)準(zhǔn)的支持向量機(jī)是完全基于數(shù)據(jù)的,也即是說(shuō),由標(biāo)準(zhǔn)的支持向量機(jī)算法得到的模型與問(wèn)題的領(lǐng)域知識(shí)無(wú)關(guān),完全取決于訓(xùn)練數(shù)據(jù)本身。然而實(shí)際中我們總可以得到一定的領(lǐng)域知識(shí),為了解決此問(wèn)題,提出了一種集成領(lǐng)域知識(shí)的訓(xùn)練算法;在此基礎(chǔ)之上給出了一種信息融合的框架。
　　4)研究了基于區(qū)間信息的支持向量回歸機(jī)。在實(shí)際獲取樣本時(shí),由于受到各種條件的限制，樣本數(shù)據(jù)一般是不精確