相關(guān)向量機(jī)優(yōu)化方法的研究.pdf

1、相關(guān)向量機(jī)是一種基于稀疏概率模型的機(jī)器學(xué)習(xí)方法，與機(jī)器學(xué)習(xí)中分類回歸領(lǐng)域得到了廣泛應(yīng)用的支持向量機(jī)在體系結(jié)構(gòu)和功能運(yùn)作上十分接近，從而較好地吸收了支持向量機(jī)泛化能力良好以及檢測精度較高等優(yōu)點(diǎn)。同時，由于相關(guān)向理機(jī)以稀疏概率模型為理論基礎(chǔ)構(gòu)建學(xué)習(xí)機(jī)而非支持向量機(jī)基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則構(gòu)建學(xué)習(xí)機(jī)，這一基礎(chǔ)理論上的變化使得相關(guān)向量機(jī)取得了泛化能力更好，預(yù)測結(jié)果更具有統(tǒng)計(jì)學(xué)意義以及核函數(shù)不必滿足Mercer條件等優(yōu)勢?？梢钥吹剑瑢ο嚓P(guān)向量機(jī)的研

2、究無論是從理論提升還是實(shí)際應(yīng)用方面都有著重要的意義，因此，本文著重研究了相關(guān)向量機(jī)的基本理論及其優(yōu)化方法，研究工作主要從以下幾個方面切入：
　　 1、分析相關(guān)向量機(jī)與支持向量機(jī)理論，從多個方面入手對比兩者的各項(xiàng)性能指標(biāo)，并以支持向量機(jī)的基本理論及其優(yōu)化方法為參照，重點(diǎn)分析研究現(xiàn)有相關(guān)向量機(jī)算法的不足之處，尋找優(yōu)化方法。
　　 2、利用相關(guān)向量機(jī)中“相關(guān)向量”比重低的特點(diǎn)，提出用快速估計(jì)優(yōu)化相關(guān)向量機(jī)的方法。使用閾值系數(shù)和

3、約減最大上限結(jié)合迭代估計(jì)對訓(xùn)練樣本的超參進(jìn)行快速估計(jì)，從而去除訓(xùn)練集中大量的非相關(guān)向量，降低訓(xùn)練樣本的規(guī)模，減少了訓(xùn)練時間。然后，分別從理論和UCI等數(shù)據(jù)集上的實(shí)驗(yàn)進(jìn)行了驗(yàn)證，最終結(jié)果表明優(yōu)化后的算法在運(yùn)行效率上有了較大提高。
　　 3、針對相關(guān)向量機(jī)使用單一核函數(shù)導(dǎo)致檢測精度低的問題，提出了組合核函數(shù)構(gòu)建同構(gòu)和異構(gòu)多核相關(guān)向量機(jī)的方法，并通過核函數(shù)校正來判別給定的核函數(shù)及其參數(shù)的有效性，從而用有效的核函數(shù)參數(shù)得出較優(yōu)的多核相關(guān)