基于樣本幾何估計(jì)值的支持向量機(jī)研究.pdf

1、隨著各行各業(yè)的發(fā)展，數(shù)據(jù)挖掘正在更廣泛地應(yīng)用于存在著大量數(shù)據(jù)的地方，如銀行，保險(xiǎn)等行業(yè)。而大量的數(shù)據(jù)只是存放在那里，并沒(méi)有提供有用的信息，此外若是人工地去分析這些數(shù)據(jù)會(huì)非常地費(fèi)時(shí)，這就越來(lái)越需要有效的手段和方法，快速地從大量的數(shù)據(jù)中獲取有價(jià)值的信息。而這就是數(shù)據(jù)挖掘的主要任務(wù)。本文首先介紹了數(shù)據(jù)挖掘的研究和應(yīng)用背景。由于本文主要研究的是分類方法中的支持向量機(jī)，因而介紹了支持向量機(jī)的基本概念，以及支持向量機(jī)的基本分類和預(yù)測(cè)原理，并詳細(xì)分析

2、了一些支持向量機(jī)相關(guān)的典型算法及其優(yōu)缺點(diǎn)。為求解隨后的支持向量機(jī)問(wèn)題即帶有約束的問(wèn)題奠定基礎(chǔ)，分析了求解無(wú)約束問(wèn)題的一些典型算法。在此基礎(chǔ)上，針對(duì)國(guó)內(nèi)外的支持向量機(jī)算法進(jìn)行了在分類性能的高低，訓(xùn)練時(shí)間的長(zhǎng)短等方面的對(duì)比和分析。 在分析了一些結(jié)合數(shù)據(jù)樣本幾何性質(zhì)的相關(guān)支持向量機(jī)分類方法研究基礎(chǔ)上，提出了一種新的基于樣本幾何估計(jì)值的支持向量機(jī)分類方法。首先利用數(shù)據(jù)樣本的幾何性質(zhì)，提出樣本幾何估計(jì)值的概念，它較好并有效地反映了樣本的幾

3、何性質(zhì)，且計(jì)算簡(jiǎn)便。并由此形成新的求解支持向量機(jī)的目標(biāo)函數(shù)與約束函數(shù)。并在數(shù)據(jù)樣本線性與非線性可分的情況下，形成新的基于樣本幾何估計(jì)值的支持向量機(jī)。用乘子法進(jìn)行求解，并進(jìn)行了理論上的數(shù)學(xué)推導(dǎo)。最后用實(shí)驗(yàn)做出了相關(guān)性能的分析對(duì)比。實(shí)驗(yàn)表明，新的基于樣本幾何估計(jì)值的支持向量機(jī)分類方法有著較好的分類性能和較短的訓(xùn)練時(shí)間。 特別地，當(dāng)數(shù)據(jù)樣本較多時(shí)，為了縮短支持向量機(jī)的訓(xùn)練時(shí)間，提出了新的基于樣本幾何估計(jì)值的支持向量機(jī)輔助分類策略。首先

4、，結(jié)合樣本的幾何性質(zhì)，提出樣本整體偏離度的概念。其目的利用已經(jīng)提出的幾何估計(jì)值的概念來(lái)進(jìn)行支持向量機(jī)的輔助分類，而不是單獨(dú)提出輔助分類方法，較好地利用了樣本本身的幾何性質(zhì)。解決了當(dāng)數(shù)據(jù)樣本較多時(shí)，支持向量機(jī)的訓(xùn)練時(shí)間較長(zhǎng)的問(wèn)題。同樣地，通過(guò)實(shí)驗(yàn)來(lái)分析支持向量機(jī)的分類性能。實(shí)驗(yàn)表明，帶有輔助分類策略的基于樣本幾何估計(jì)值的新支持向量機(jī)比已有相關(guān)的支持向量機(jī)分類方法有著更好的分類性能，更少的訓(xùn)練時(shí)間。這些方法的提出，不僅在理論上對(duì)于支持向量機(jī)