主分量和次分量神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法及應(yīng)用.pdf

1、主分量的方向是代表輸入數(shù)據(jù)矢量具有最大方差的方向,用主分量來表示數(shù)據(jù)矢量稱為主分量分析(PCA),而次分量的方向是輸入數(shù)據(jù)矢量具有最小方差的方向.主分量分析和 次分量分析(MCA)(PCA的互補(bǔ)部分)都是分析一個隨機(jī)矢量過程相關(guān)結(jié)構(gòu)的十分有用的統(tǒng)計(jì)技術(shù),并已經(jīng)廣泛地應(yīng)用于現(xiàn)代信號處理的許多領(lǐng)域.該論文主要研究了PCA和MCA的神經(jīng)網(wǎng)絡(luò)模型及有關(guān)快速學(xué)習(xí)算法,重點(diǎn)是并行多個分量提取問題,主要結(jié)果概括如下:1、根據(jù)最 小二乘原理,研究人員提

2、出一種PCA學(xué)習(xí)算法,研究人員稱之為穩(wěn)健的遞歸最小二乘算法(RRLSA).2、通過引入一個加權(quán)矩陣,研究人員提出一個廣義能量函數(shù)(GFF)來訓(xùn)練一種線性對稱神經(jīng)網(wǎng)絡(luò).3、研究人員提出一個加權(quán)信息準(zhǔn)則(WINC)來搜索一個線性神經(jīng)網(wǎng)絡(luò)的最優(yōu)權(quán) ,理論分析表明平衡點(diǎn)的最優(yōu)解漸近收斂于輸入過程主分量.4、研究人員提出一個信息最 小化準(zhǔn)則并證明在次分量子空間該準(zhǔn)則有唯一的全局最小,基于梯度上升規(guī)則,研究人員提出一種自適應(yīng)次分量提取(AMEX)算