基于Elman網(wǎng)絡與GPU加速的時間序列預測.pdf

1、準確快速地預測時間序列是近年來研究的熱點問題。由于神經(jīng)網(wǎng)絡可以任意映射復雜的非線性關系，且具有很強的記憶能力、容錯能力、魯棒性以及良好的自學習能力，使其受到越來越多的關注，而基于神經(jīng)網(wǎng)絡的時間序列預測技術也被廣泛應用于各個領域，解決了許多實際工業(yè)問題。
　　Elman網(wǎng)絡作為遞歸神經(jīng)網(wǎng)絡的典型代表，內(nèi)部包含反饋回路，可適應動態(tài)系統(tǒng)的時變特性，比僅能反映系統(tǒng)輸入-輸出映射關系的前饋神經(jīng)網(wǎng)絡更適合解決動態(tài)系統(tǒng)問題。然而由于其結構復雜，

2、現(xiàn)有的基于梯度下降法的建模方法存在收斂速度慢、容易陷入局部最優(yōu)解等問題?；跀U展卡爾曼濾波(EKF)的方法雖然提高了收斂速度，但算法中雅克比矩陣的計算通常比較復雜且耗時。本文提出一種用圖形處理器(GPU)加速實現(xiàn)基于EKF的Elman網(wǎng)絡并行建模方法，首先根據(jù)Elman網(wǎng)絡的結構特性和并行建模的需求，提出了一種求解雅克比矩陣的方法，該方法能夠推導出其解的矩陣表達式，并可以直接針對原始網(wǎng)絡求解，省去了將遞歸網(wǎng)絡轉化為前饋網(wǎng)絡，從而簡化了建

3、模過程并有利于其并行實現(xiàn)。鑒于GPU高浮點計算能力及工業(yè)應用對實時性要求較高，本文用GPU加速Elman網(wǎng)絡的建模過程，將網(wǎng)絡訓練中邏輯分支簡單、計算復雜度高的任務用GPU實現(xiàn)，而將邏輯性強的事務處理和串行計算用CPU實現(xiàn)，通過GPU和CPU的協(xié)同合作提高網(wǎng)絡建模效率。
　　為驗證本文方法的有效性，用含有高斯白噪聲的Mackey-Glass時間序列和實際工業(yè)數(shù)據(jù)進行了實驗，并與幾種常用的時間序列預測方法作對比。實驗結果表明，本文方