徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的學習算法研究.pdf

1、山東大學碩士學位論文徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的學習算法研究姓名：李彬申請學位級別：碩士專業(yè)：運籌學與控制論指導教師：賴曉平20050401山東大學碩士學位論文徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的學習算法研究摘要徑向基函數(shù)(RadialBasisFunction，RBF)神經(jīng)網(wǎng)絡(luò)以其簡單的結(jié)構(gòu)，優(yōu)良的全局逼近性能而引起了學者們的廣泛關(guān)注由于RBF神經(jīng)網(wǎng)絡(luò)的種種優(yōu)越性，使得它在函數(shù)逼近和非線性時間序列預(yù)測等方面得到廣泛應(yīng)用本文研究了RBF神經(jīng)網(wǎng)絡(luò)的各種學習算法在

2、總結(jié)概述前人工作優(yōu)缺點的基礎(chǔ)上，本文提出一了兩種優(yōu)良的改進學習算法與現(xiàn)存的學習算法相比，在具有良好性能的前提下，本文的算法可以產(chǎn)生更緊湊的網(wǎng)絡(luò)結(jié)構(gòu)RBF神經(jīng)網(wǎng)絡(luò)現(xiàn)有的各種學習算法可以分為兩類：離線學習算法和在線學習算法在線學習算法可以有效處理反映對象特性改變的樣本數(shù)據(jù)，比較適用于實時的應(yīng)用環(huán)境對于在線學習(訓練)算法來說，后一個訓練數(shù)據(jù)進入網(wǎng)絡(luò)之前，前一個訓練數(shù)據(jù)訓練網(wǎng)絡(luò)的過程必須結(jié)束，也就是在線訓練算法的每次迭代時間必須小于樣本的采樣

3、周期為了提高在線訓練算法的實時應(yīng)用范圍，我們必須降低算法的復(fù)雜性，加快算法的訓練時間另外，我們需要關(guān)注算法的泛化能力一般的情況下，對于RBF神經(jīng)網(wǎng)絡(luò)來說，在達到相同的訓練精度的前提下，網(wǎng)絡(luò)中的隱層神經(jīng)元個數(shù)越少，則網(wǎng)絡(luò)的泛化能力就越好本文首先回顧RBF神經(jīng)網(wǎng)絡(luò)的發(fā)展簡史、網(wǎng)絡(luò)結(jié)構(gòu)及其基本的學習過程第三章，在介紹批處理學習算法特點的基礎(chǔ)上，詳細介紹了其中的典型代表——正交最d乘算法第四章詳細說明了現(xiàn)階段流行的各種RBF神經(jīng)網(wǎng)絡(luò)在線學習算法

4、(RAN[1]，RANEKF[5]，MRAN[22]，GGAPRBF(GAPRBF)[2324])，并分析了各種在線學習算法的優(yōu)缺點以在線學習算法MRAN為基礎(chǔ)，本文在第五章提出了一種改進的RBF神經(jīng)網(wǎng)絡(luò)在線學習算法，稱為IRAN學習算法針對MRAN算法的計算復(fù)雜性較高，對內(nèi)存要求較大的缺點，IRAN算法采用一種新的基于吉文斯QR分解的遞歸最小二乘算法，代替EKF算法來進行權(quán)值的更新它既可以加快網(wǎng)絡(luò)的收斂速度，又降低了其復(fù)雜性IRAN算