人工神經(jīng)網(wǎng)絡(luò)算法改進(jìn)及其在經(jīng)濟(jì)分析中的應(yīng)用.pdf

1、人工神經(jīng)網(wǎng)絡(luò)(ArtificialNeuralNetworks)模型是基于生物學(xué)中的神經(jīng)網(wǎng)絡(luò)的基本原理而建立的一種智能算法理論.它具有大規(guī)模并行處理、分布式信息存儲(chǔ)、容錯(cuò)性、自組織性和自適應(yīng)性等特點(diǎn)，有很強(qiáng)的非線(xiàn)性逼近能力和分類(lèi)識(shí)別能力.對(duì)突破現(xiàn)有科學(xué)技術(shù)的瓶頸，更深入探索非線(xiàn)性復(fù)雜問(wèn)題起到了重要作用，提供了一種新的方法.人工神經(jīng)網(wǎng)絡(luò)算法已被成功地應(yīng)用在圖像識(shí)別、經(jīng)濟(jì)預(yù)測(cè)、數(shù)據(jù)分類(lèi)等很多工程技術(shù)領(lǐng)域，取得了令人滿(mǎn)意的結(jié)果. 近年

2、來(lái)對(duì)神經(jīng)網(wǎng)絡(luò)算法的研究方興未艾，特別是對(duì)如何提高人工神經(jīng)網(wǎng)絡(luò)算法的收斂速度，避免局部極小值等問(wèn)題國(guó)內(nèi)外專(zhuān)家學(xué)者提出了很多有效的方法.神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)確定的研究也是一個(gè)熱點(diǎn)問(wèn)題，專(zhuān)家、學(xué)者提出了眾多方法，但一直以來(lái)都沒(méi)有能得到大家公認(rèn)的，科學(xué)、合理的標(biāo)準(zhǔn).針對(duì)于次，本文對(duì)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定進(jìn)行了初步的探討，首先利用主成分分析、因子分析對(duì)網(wǎng)絡(luò)輸入層結(jié)點(diǎn)進(jìn)行了簡(jiǎn)化；再利用遺傳算法、結(jié)點(diǎn)關(guān)聯(lián)度和分散度等方法，對(duì)網(wǎng)絡(luò)的隱層結(jié)點(diǎn)數(shù)進(jìn)行了優(yōu)化；然后又

3、針對(duì)網(wǎng)絡(luò)收斂問(wèn)題，推廣了一種新的反向結(jié)構(gòu)調(diào)整算法；最后將優(yōu)化網(wǎng)絡(luò)及新算法應(yīng)用到相關(guān)經(jīng)濟(jì)問(wèn)題的分析之中，具體內(nèi)容安排如下： 第一章介紹了人工神經(jīng)網(wǎng)絡(luò)的發(fā)展情況，簡(jiǎn)單介紹了傳統(tǒng)BP(Backpropagation)網(wǎng)絡(luò)的基本算法，特別介紹了在網(wǎng)絡(luò)結(jié)構(gòu)構(gòu)造方面常用的幾種方法：試湊法、增長(zhǎng)法、修剪法、進(jìn)化法等等.提出了目前研究中存在的一些問(wèn)題，即如何合理選擇輸入結(jié)點(diǎn)數(shù)和隱層結(jié)點(diǎn)數(shù)，以及如何提高訓(xùn)練收斂速度. 目前對(duì)神經(jīng)網(wǎng)絡(luò)輸入層

4、優(yōu)化進(jìn)行討論的文章還不多，本文第二章主要介紹了利用主成分分析和因子分析進(jìn)行網(wǎng)絡(luò)輸入層簡(jiǎn)化的方法.主成分分析方法是一種在統(tǒng)計(jì)中常用的數(shù)據(jù)降維方法，它通過(guò)一組變量的線(xiàn)性組合來(lái)解釋這組變量的方差和協(xié)方差結(jié)構(gòu)，以達(dá)到數(shù)據(jù)壓縮和數(shù)據(jù)解釋的目的.因子分析是對(duì)主成分分析的推廣，它也是一種從研究相關(guān)矩陣內(nèi)部的依賴(lài)關(guān)系出發(fā)，把一些具有錯(cuò)綜復(fù)雜關(guān)系的變量歸結(jié)為少數(shù)幾個(gè)綜合因子的多變量統(tǒng)計(jì)分析方法.針對(duì)由于具體問(wèn)題影響因素過(guò)多，造成神經(jīng)網(wǎng)絡(luò)輸入結(jié)點(diǎn)過(guò)多，進(jìn)而

5、使得網(wǎng)絡(luò)結(jié)構(gòu)過(guò)于復(fù)雜的問(wèn)題，利用主成分分析和因子分析的方法來(lái)簡(jiǎn)化網(wǎng)絡(luò)的輸入，既減少了輸入項(xiàng)，又包含了原有數(shù)據(jù)的大部分信息. 構(gòu)建結(jié)構(gòu)合理的網(wǎng)絡(luò)是建立神經(jīng)網(wǎng)絡(luò)模型的首要任務(wù).太大的網(wǎng)絡(luò)結(jié)構(gòu)能很好的學(xué)習(xí)訓(xùn)練樣本，輸出誤差小，但訓(xùn)練時(shí)效率不高，而且還會(huì)由于過(guò)擬合，造成網(wǎng)絡(luò)的性能脆弱，容錯(cuò)性能下降，不能實(shí)現(xiàn)很好的模擬預(yù)測(cè)，從而泛化能力較差；而太小的網(wǎng)絡(luò)結(jié)構(gòu)可能根本就不收斂，輸出誤差較大，很難完成對(duì)訓(xùn)練樣本的學(xué)習(xí).針對(duì)于此本文在第三章首先

6、提出對(duì)網(wǎng)絡(luò)的連接情況進(jìn)行編碼，利用遺傳算法優(yōu)化網(wǎng)絡(luò)層與層之間連接的方法，然后又利用隱層結(jié)點(diǎn)的分散度以及各不同結(jié)點(diǎn)之間的關(guān)聯(lián)度來(lái)刪除、合并結(jié)點(diǎn).通過(guò)這兩方面的工作就可以實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)隱層結(jié)構(gòu)的合理優(yōu)化. 第四章首先介紹了三層神經(jīng)網(wǎng)絡(luò)的反向調(diào)整輸入算法.由于該算法是對(duì)輸入項(xiàng)進(jìn)行調(diào)整，需調(diào)整的變量數(shù)目(輸入結(jié)點(diǎn)數(shù))與原有算法中需調(diào)整的權(quán)重?cái)?shù)目相比，減少了很多，所以可以提高學(xué)習(xí)、訓(xùn)練速率.針對(duì)三層網(wǎng)絡(luò)算法的局限性，本文對(duì)其進(jìn)行了擴(kuò)充，將該算