SVM中兩類常用分類方法的關(guān)系研究.pdf

1、支持向量機是基于統(tǒng)計學習理論，借助最優(yōu)化方法來解決機器學習問題的新工具。最近，支持向量機方法已經(jīng)成為機器學習領(lǐng)域研究的熱點。它將機器學習問題轉(zhuǎn)化為求解最優(yōu)化問題，并應(yīng)用最優(yōu)化理論構(gòu)造算法來解決凸二次規(guī)劃問題。論文主要是利用最優(yōu)化理論中的原始問題與對偶問題解的關(guān)系和KKT條件，對支持向量機中兩類最常用分類方法： SVC和 SVC的解的關(guān)系問題進行研究和論證；所得的結(jié)果為其它各種方法之間的關(guān)系研究提供了理論上、思想上的依據(jù)和啟發(fā)。

2、論文首先詳細地論述了支持向量機的基本思想和各種常用的支持向量機方法，然后通過深入分析，發(fā)現(xiàn)現(xiàn)有的方法對各種方法之間的關(guān)系從最優(yōu)化理論的角度考慮甚少，因此文章針對這一問題，應(yīng)用最優(yōu)化理論進行深入研究，主要的研究成果如下： 1) 推導并證明了SVM模型是非嚴格凸的二次規(guī)劃問題時，解可能不唯一性情形，但是各個解的分量之和是相等的； 2) 定義了一個關(guān)于 SVC對偶問題的解算子 和參數(shù) 的新函數(shù)，該函數(shù)是參數(shù) 定義域內(nèi)的一個恒取

3、正數(shù)的連續(xù)非增的函數(shù)；同時在新定義的這個函數(shù)和參數(shù) 之間建立了一一對應(yīng)關(guān)系，使得 SVC和 SVC有相同的最優(yōu)解集； 3) 論證了 SVC解的存在性問題； 4) 為了證明定理引入并證明了SVM的兩種方法 SVC和 SVC解集相同的充分條件的引理， SVC的對偶問題解集存在的充要條件引理以及解集相同的存在性、唯一性等結(jié)論。 目前，對支持向量機的研究主要是針對統(tǒng)計學習理論以及各種應(yīng)用領(lǐng)域的研究，而從最優(yōu)化理論的角度去