支持向量機(jī)和分類(lèi)問(wèn)題的算法研究.pdf

1、支持向量機(jī)學(xué)習(xí)算法是本文的主要研究工作，它是建立在統(tǒng)計(jì)學(xué)習(xí)理論和數(shù)學(xué)規(guī)劃基礎(chǔ)上的一種數(shù)據(jù)挖掘的新方法。數(shù)學(xué)規(guī)劃是運(yùn)籌學(xué)一個(gè)重要分支，在機(jī)器學(xué)習(xí)、網(wǎng)絡(luò)問(wèn)題、博弈理論與經(jīng)濟(jì)學(xué)、工程機(jī)械學(xué)等領(lǐng)域有著廣泛而重要的應(yīng)用，是國(guó)際上最活躍的運(yùn)籌學(xué)研究領(lǐng)域之一。分類(lèi)是機(jī)器學(xué)習(xí)的常見(jiàn)問(wèn)題之一。本文在近似支持向量機(jī)數(shù)學(xué)模型，近似錯(cuò)誤分離最小化模型和推導(dǎo)多類(lèi)支持向量機(jī)對(duì)偶性理論這三方面作者分別有所研究，取得的結(jié)果如下：第2章給出了支持向量機(jī)的一個(gè)近似算法-乘

2、子極大熵算法。此算法把支持向量機(jī)對(duì)偶模型化為極大極小模型，然后再用乘子極大熵法來(lái)解決這個(gè)問(wèn)題。這是一個(gè)集極大熵法和乘子法兩者優(yōu)點(diǎn)于一身的算法，極大熵法把非光滑的問(wèn)題變成了光滑的，乘子法能在一定程度上減少迭代次數(shù)，并且可以避免海森陣病態(tài)的問(wèn)題。支持向量機(jī)的乘子極大熵算法對(duì)于小樣本問(wèn)題，特別是醫(yī)學(xué)上癌前診斷問(wèn)題有比較好的實(shí)驗(yàn)結(jié)果，文中的兩個(gè)例子表明該算法能較好的解決小樣本的學(xué)習(xí)分類(lèi)問(wèn)題。 第3章是關(guān)于錯(cuò)誤分離最小化的一個(gè)近似算法的。

3、錯(cuò)誤分離最小化是機(jī)器學(xué)習(xí)中很常見(jiàn)的問(wèn)題之一，本文給出了分離錯(cuò)誤最小化數(shù)學(xué)模型的一個(gè)近似模型。在分離錯(cuò)誤點(diǎn)個(gè)數(shù)最小的數(shù)學(xué)模型中，用分片線性函數(shù)來(lái)近似步函數(shù)，從而給出了一個(gè)近似模型。對(duì)于近似模型，本文做了一個(gè)序列線性化算法，并且證明了算法是有限步終止的。 以往關(guān)于多類(lèi)支持向量機(jī)及其對(duì)偶問(wèn)題的文獻(xiàn)在理論方面給出的結(jié)論不多。本文在二類(lèi)支持向量機(jī)對(duì)偶理論的基礎(chǔ)上，針對(duì)多分類(lèi)支持向量機(jī)的數(shù)學(xué)模型，給出原始問(wèn)題解的性質(zhì)定理以及原始問(wèn)題和對(duì)偶問(wèn)