粒子群算法在神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)化中的應(yīng)用.pdf

1、近年來(lái)，研究學(xué)者們從自然現(xiàn)象中不斷獲得啟示，提出了許多優(yōu)秀的智能算法，如遺傳算法、蟻群算法、模擬退火算法以及粒子群優(yōu)化算法等等，智能算法有了長(zhǎng)足的發(fā)展。
　　 神經(jīng)網(wǎng)絡(luò)用于優(yōu)化計(jì)算采用BP算法作為連接權(quán)學(xué)習(xí)的工具，但是由于其是按誤差的梯度下降方向搜索，所以易陷入局部最小而造成成熟前收斂的問(wèn)題；用GA算法來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)的參數(shù)，可以達(dá)到搜索的遍歷性，但是是以增加迭代次數(shù)為代價(jià)的，因此收斂速度比較慢。基本PSO算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)參數(shù)優(yōu)

2、化中既可以達(dá)到搜索的遍歷性，又省去了GA算法中選擇、交叉、變異等基本操作。在搜索速度上有所提高，但是由于群中的粒子都按照同一規(guī)則進(jìn)行最優(yōu)位置的更新和運(yùn)動(dòng)，在粒子陷入局部極小后，動(dòng)作的一致性反而阻礙了算法跳出局部極小。
　　 基于這一問(wèn)題，本文提出了一種改進(jìn)的粒子群算法：聚集-重置粒子群算法(FRPSO)。FRPSO主要思想是在原算法的種群產(chǎn)生聚集現(xiàn)象的時(shí)候，改變那些適應(yīng)值最差的粒子。通過(guò)不斷重新初始化種群中適應(yīng)值最差的那些粒子，