模塊化神經(jīng)網(wǎng)絡(luò)中的若干問(wèn)題研究.pdf

1、模塊化神經(jīng)網(wǎng)絡(luò)是一種由多個(gè)智能體組成的學(xué)習(xí)機(jī)模型,是由多個(gè)神經(jīng)網(wǎng)絡(luò)以協(xié)作或競(jìng)爭(zhēng)的方式構(gòu)建的學(xué)習(xí)系統(tǒng).其基本思想是以多個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)探索各個(gè)子學(xué)習(xí)機(jī)的不同行為,以期提高整個(gè)學(xué)習(xí)系統(tǒng)的學(xué)習(xí)能力、系統(tǒng)精度和泛化性能.大量的實(shí)例研究表明,模塊化神經(jīng)網(wǎng)絡(luò)在泛化能力和可靠性上比單一神經(jīng)網(wǎng)絡(luò)都有所提高,為我們提供了一條問(wèn)題求解的新途徑.而且最近所提出的各種理論解釋也都證實(shí)了一些常用模塊化方法的有效性.當(dāng)前,模塊化神經(jīng)網(wǎng)絡(luò)的研究主要集中在兩個(gè)方面,即如何

2、將多個(gè)神經(jīng)網(wǎng)絡(luò)的輸出結(jié)論進(jìn)行結(jié)合以及如何生成系統(tǒng)中的個(gè)體網(wǎng)絡(luò).該文的工作主要集中在結(jié)論合成方面,提出子網(wǎng)絡(luò)選擇性集成的方案,提出一種新的層次模塊化神經(jīng)網(wǎng)絡(luò)模型.同時(shí)該文還對(duì)模塊化神經(jīng)網(wǎng)絡(luò)的魯棒性能進(jìn)行了研究.全文共分五章.第一章,該文首先從需求,神經(jīng)生理學(xué)和社會(huì)科學(xué)等角度闡述了模塊化神經(jīng)網(wǎng)絡(luò)出現(xiàn)的可能和必然,然后從理論與應(yīng)用兩個(gè)方面介紹了模塊化神經(jīng)網(wǎng)絡(luò)的研究現(xiàn)狀及應(yīng)用前景.第二章,該文提出了一種模塊化神經(jīng)網(wǎng)絡(luò)的魯棒學(xué)習(xí)算法,實(shí)驗(yàn)研究表明

3、模塊化神經(jīng)網(wǎng)絡(luò)的魯棒學(xué)習(xí)算法對(duì)于污染樣本的學(xué)習(xí)能獲得較好的魯棒性能和較高的學(xué)習(xí)精度,特別是在模型較復(fù)雜時(shí),該算法的效果尤為明顯.該文在第三章討論了模塊化神經(jīng)網(wǎng)絡(luò)自適應(yīng)集成的一些問(wèn)題,如集成權(quán)的動(dòng)態(tài)生成,子神經(jīng)網(wǎng)絡(luò)配置的最優(yōu)化,以及子神經(jīng)網(wǎng)絡(luò)的重組等.第四章,該文應(yīng)用分而治之的思想提出了一種層次模塊化神經(jīng)網(wǎng)絡(luò)新方法一三層結(jié)構(gòu)的模塊化神經(jīng)網(wǎng)絡(luò)模型,在提高算法性能方面有一定優(yōu)勢(shì).對(duì)比實(shí)驗(yàn)研究也表明該算法有效地提高了系統(tǒng)的泛化能力和算法穩(wěn)定性.