人工神經(jīng)網(wǎng)絡在數(shù)據(jù)挖掘中的應用研究.pdf

1、神經(jīng)網(wǎng)絡在數(shù)據(jù)挖掘的應用中主要存在兩個問題,一是訓練時間過長;二是獲得的知識難以理解和表示.神經(jīng)網(wǎng)絡中的規(guī)則提取方法是解決"黑箱問題"的有效手段,論文分析了基于結(jié)構(gòu)分解和基于輸入輸出映射的神經(jīng)網(wǎng)絡規(guī)則提取的基本思想和對應的各種算法,并對它們的性能進行比較.BP算法是多層前向神經(jīng)網(wǎng)絡中應用最為廣泛的一種算法,但是由于BP算法實質(zhì)上是一種基于梯度下降的搜索算法,因此它存在著算法效率較低、收斂速度慢、易于陷入局部極小值等現(xiàn)狀;對于較大的搜索空

2、間、多峰值和不可微函數(shù)常常不能搜索到全局極小點,這些制約了BP網(wǎng)絡在各個領域中的應用,該文從BP網(wǎng)絡的工作原理出發(fā),分析產(chǎn)生局部極小的原因,提出了對BP網(wǎng)絡全局優(yōu)化的改進策略.全局優(yōu)化改進策略從基于網(wǎng)絡模型的優(yōu)化和基于網(wǎng)絡算法的優(yōu)化兩個方面考慮.基于網(wǎng)絡模型的優(yōu)化重點對結(jié)構(gòu)參數(shù)中的初始權(quán)值的選取、學習系數(shù)、神經(jīng)元的激勵函數(shù)及誤差函數(shù)提出改進方法;基于網(wǎng)絡算法的改進主要包括基于標準數(shù)值優(yōu)化的改進方法和基于標準梯度下降的改進方法.通過對BP