進(jìn)化計(jì)算優(yōu)化前向神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法研究.pdf

1、系統(tǒng)仿真領(lǐng)域的研究難點(diǎn)和研究熱點(diǎn)之一是對(duì)復(fù)雜系統(tǒng)進(jìn)行仿真及建模研究。人工神經(jīng)網(wǎng)絡(luò)通過(guò)大量互連神經(jīng)元之間連接權(quán)值的分布存儲(chǔ)來(lái)表示網(wǎng)絡(luò)的解題知識(shí)，具有并行處理、自學(xué)習(xí)和能以任意精度逼近任意非線性函數(shù)等特性，神經(jīng)網(wǎng)絡(luò)具有的這些優(yōu)點(diǎn)使其適宜于復(fù)雜系統(tǒng)建模中。但神經(jīng)網(wǎng)絡(luò)在應(yīng)用中還存在一些問(wèn)題，譬如網(wǎng)絡(luò)學(xué)習(xí)局部極小，收斂速度緩慢，網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)復(fù)雜及泛化性能弱等缺點(diǎn)，神經(jīng)網(wǎng)絡(luò)的這些缺陷阻礙了其應(yīng)用。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)從本質(zhì)上說(shuō)是網(wǎng)絡(luò)結(jié)構(gòu)與權(quán)值的優(yōu)化過(guò)程，神

2、經(jīng)網(wǎng)絡(luò)這些局限性都不可避免的會(huì)牽扯到網(wǎng)絡(luò)學(xué)習(xí)中的優(yōu)化問(wèn)題。進(jìn)化計(jì)算是一類模擬生物進(jìn)化過(guò)程與機(jī)制求解問(wèn)題的人工智能技術(shù)，進(jìn)化計(jì)算具有智能性和本質(zhì)并行性兩大特點(diǎn)，它不受對(duì)象目標(biāo)函數(shù)連續(xù)可微條件約束，在一些離散、多態(tài)、含噪聲的優(yōu)化問(wèn)題中更顯示出該方法獨(dú)特的優(yōu)勢(shì)，進(jìn)化計(jì)算具有的這些優(yōu)點(diǎn)為解決神經(jīng)網(wǎng)絡(luò)自身缺陷提供了一條全新可行途徑。
　　本文利用群體智能中的進(jìn)化計(jì)算來(lái)解決神經(jīng)網(wǎng)絡(luò)在復(fù)雜系統(tǒng)建模中存在的主要問(wèn)題，并將其應(yīng)用于木材表面缺陷識(shí)別。

3、主要研究?jī)?nèi)容如下:
　　首先，針對(duì)網(wǎng)絡(luò)結(jié)構(gòu)固定情況下傳統(tǒng)BP學(xué)習(xí)方法對(duì)網(wǎng)絡(luò)學(xué)習(xí)易陷入局部極值、學(xué)習(xí)精度不高等缺陷，提出一種基于BP算子的粒子群(PSO)優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值的學(xué)習(xí)方法。該方法有效結(jié)合粒子群算法和BP算法優(yōu)點(diǎn)，在PSO全局勘探和BP局部開(kāi)發(fā)之間能給出一個(gè)較好的折中;更重要的是該結(jié)合方式能給PSO進(jìn)化和BP搜索之間提供一個(gè)相互充分作用的機(jī)會(huì)，即在PSO每代尋優(yōu)解的基礎(chǔ)上執(zhí)行BP操作可以獲得精度更高的優(yōu)化解，同時(shí)該優(yōu)化解又返

4、回到粒子群優(yōu)化過(guò)程并共享其位置信息引導(dǎo)群體的快速進(jìn)化，兩種算法之間相輔相成，相互促進(jìn)來(lái)達(dá)到共同的尋優(yōu)目的。實(shí)驗(yàn)結(jié)果表明該學(xué)習(xí)方法學(xué)習(xí)精度高，收斂速度快，在性能上優(yōu)于常規(guī)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法。
　　其次，針對(duì)單一進(jìn)化算法對(duì)復(fù)雜優(yōu)化問(wèn)題存在早熟收斂、優(yōu)化效率低的問(wèn)題，提出一種實(shí)數(shù)編碼遺傳算法與粒子群優(yōu)化方法相結(jié)合的改進(jìn)混合遺傳算法(IHGA)，該方法引入生態(tài)學(xué)中生態(tài)位構(gòu)建思想，使得個(gè)體具有一定程度上的學(xué)習(xí)能力。采用遺傳算法和粒子群算法的

5、不同搜索機(jī)制共同作用于父代個(gè)體生成子代個(gè)體，一方面可以保持種群個(gè)體的多樣性，同時(shí)也在一定程度上避免了算法早熟收斂。理論證明IHGA具有概率為1的全局收斂性，實(shí)驗(yàn)結(jié)果也表明該方法顯著提高了算法優(yōu)化性能及其優(yōu)化解的可靠性。在此基礎(chǔ)上，引入帶連接開(kāi)關(guān)的神經(jīng)網(wǎng)絡(luò)，提出一種基于IHGA的網(wǎng)絡(luò)結(jié)構(gòu)與權(quán)值并行調(diào)整優(yōu)選方法，仿真結(jié)果表明該方法設(shè)計(jì)的網(wǎng)絡(luò)學(xué)習(xí)精度高，結(jié)構(gòu)節(jié)儉。
　　然后，研究了徑向基網(wǎng)絡(luò)(RBF)的設(shè)計(jì)問(wèn)題，提出了一種基于PSO的R

6、BF網(wǎng)絡(luò)新設(shè)計(jì)方法，該方法由正則化正交最小二乘法與D-最優(yōu)試驗(yàn)設(shè)計(jì)結(jié)合算法自動(dòng)構(gòu)建結(jié)構(gòu)節(jié)儉的RBF網(wǎng)絡(luò)模型;通過(guò)改進(jìn)粒子群優(yōu)化算法優(yōu)選結(jié)合算法中影響網(wǎng)絡(luò)泛化性能的三個(gè)學(xué)習(xí)參數(shù)，即基寬度參數(shù)、正則化系數(shù)和D-最優(yōu)代價(jià)系數(shù)的最佳參數(shù)組合。仿真實(shí)例表明了該方法是一種較好的RBF網(wǎng)絡(luò)設(shè)計(jì)方法。
　　在木材缺陷檢測(cè)問(wèn)題的研究工作中，表面缺陷檢測(cè)技術(shù)一直占有重要的地位。木材表面缺陷模式識(shí)別通常采用人工神經(jīng)網(wǎng)絡(luò)技術(shù)，與其它檢測(cè)技術(shù)相比，神經(jīng)網(wǎng)絡(luò)