BP網(wǎng)絡(luò)在多元回歸分析中的應(yīng)用.pdf

1、"人工神經(jīng)網(wǎng)絡(luò)"(ARTIFICIAL NEURAL NETWORK,簡稱A.N.N.)是在對人腦組織結(jié)構(gòu)和運(yùn)行機(jī)制的認(rèn)識理解基礎(chǔ)之上模擬其結(jié)構(gòu)和智能行為的一種工程系統(tǒng).人工神經(jīng)網(wǎng)絡(luò)同現(xiàn)行的計算機(jī)不同,它是一種非線性的處理單元.只有當(dāng)神經(jīng)元對所有的輸入信號的綜合處理結(jié)果超過某一閾值后才輸出一個信號.因此神經(jīng)網(wǎng)絡(luò)是一種具有高度非線性的超大規(guī)模連續(xù)時間動力學(xué)系統(tǒng).它突破了傳統(tǒng)的以線性處理為基礎(chǔ)的數(shù)字電子計算機(jī)的局限,標(biāo)志著人們智能信息處理能

2、力和模擬人腦智能行為能力的一大飛躍.神經(jīng)網(wǎng)絡(luò)的關(guān)鍵,就在于每個處理單元之間建立適當(dāng)?shù)倪B結(jié),這就像腦神經(jīng)細(xì)胞間彼此用突觸做溝通的渠道一樣.這些神經(jīng)元的連結(jié)并不象想象的那樣雜亂無章,而是通常被組織成層次分明的神經(jīng)元,每一層內(nèi)的神經(jīng)元接受下層神經(jīng)元的訊號,并向上送出結(jié)果.其中,輸入層負(fù)責(zé)接收資料,而輸出層則送出最終的結(jié)果,通常它們之間還存在著隱藏層,夾雜在兩者之間,因此,這種結(jié)構(gòu)使我們無法預(yù)測輸入的資料將怎樣在這些神經(jīng)元之間流動.每個神經(jīng)元都

3、收到由前一層發(fā)出的訊號,然后,將各個訊號經(jīng)過加權(quán)處理,歸納出最后的結(jié)果,再傳給上一層的神經(jīng)元.于是,神經(jīng)網(wǎng)絡(luò)的關(guān)鍵就在于如何決定每一神經(jīng)元的權(quán)值.神經(jīng)網(wǎng)絡(luò)需要經(jīng)過訓(xùn)練來調(diào)整這個比值,在訓(xùn)練開始前,每一比值都用隨機(jī)方法決定,這種神經(jīng)網(wǎng)絡(luò)可被解讀為人腦最初的渾沌狀態(tài).誤差反向傳播神經(jīng)網(wǎng)絡(luò)BP(Error Back Propagation Neural Network)是1986年由Rumelhart和Hinton提出的,他是一種能向著滿足給

4、定的輸入輸出關(guān)系方向進(jìn)行自組織的神經(jīng)網(wǎng)絡(luò).當(dāng)輸出層上的實(shí)際輸出與給定的教師輸入不一致時,用最速下降法修正各層之間的結(jié)合強(qiáng)度,直到最終滿足給定的輸出輸入關(guān)系為止.由于誤差傳播的方向與信號傳播的方向正好相反,故而稱為誤差反向傳播神經(jīng)網(wǎng)絡(luò).誤差修正型學(xué)習(xí)算法的基本思想是利用輸出層單元期望輸出與實(shí)際輸出值之間的差異作為連接權(quán)調(diào)整的根據(jù),通過反復(fù)循環(huán)直至最后減小這種差異至某一符合要求的范圍內(nèi)為止.本文重點(diǎn)分析了BP網(wǎng)絡(luò)的結(jié)構(gòu)、訓(xùn)練算法、工作機(jī)制及