用于回歸預(yù)測的高斯過程模型研究.pdf

1、近年來高斯過程（Gaussian Process，GP）模型已成為一種重要的機器學(xué)習(xí)方法。它綜合了基于核的機器學(xué)習(xí)與基于貝葉斯推理機器學(xué)習(xí)的特點，同時具備上述兩種機器學(xué)習(xí)方式的優(yōu)點。高斯過程模型既可用于分類，也可用于回歸預(yù)測。本文主要研究用于回歸預(yù)測的高斯過程模型，具體研究工作如下：
　?。?）多尺度高斯過程模型的近似學(xué)習(xí)曲線研究
　　基于高斯過程相關(guān)理論，對多尺度高斯過程模型的學(xué)習(xí)曲線進(jìn)行研究。首先，對學(xué)習(xí)曲線進(jìn)行了定義，

2、然后根據(jù)多尺度高斯過程模型的原理，推導(dǎo)出學(xué)習(xí)曲線的一般表達(dá)式，并通過對多個樣本集求均值的方式對學(xué)習(xí)曲線進(jìn)行近似計算，得到近似學(xué)習(xí)曲線的計算表達(dá)式，最后在Matlab環(huán)境下實現(xiàn)了學(xué)習(xí)曲線的近似計算實驗仿真。
　?。?）學(xué)習(xí)曲線的單點上界和兩點上界研究
　　借鑒Williams, C.K.I.和Vivarelli, F.提出的GP模型的單點上界和兩點上界的研究思路，推導(dǎo)出了MGP模型的單點上界和兩點上界公式，并用Simpson公

3、式或梯度公式對兩種上界進(jìn)行了近似計算，得到了兩種上界的數(shù)值計算表達(dá)式。在Matlab環(huán)境下實現(xiàn)了學(xué)習(xí)曲線單點上界以及兩點上界的實驗仿真。通過實驗驗證了多尺度高斯過程學(xué)習(xí)曲線及其界的理論的正確性，并且通過對比不同參數(shù)情形下的實驗結(jié)果，得出了各個模型參數(shù)對MGP模型學(xué)習(xí)曲線及其界的影響。
　?。?）高斯過程混合模型的回歸預(yù)測研究
　　研究了GP模型的另一種改進(jìn)型，即高斯過程混合模型（GPMs）。首先闡述如何用留一交叉驗證法對模型