基于負(fù)相關(guān)神經(jīng)網(wǎng)絡(luò)集成的增量學(xué)習(xí)及其在人臉檢測方面的應(yīng)用.pdf

1、增量學(xué)習(xí)(Incremental Learning)是機(jī)器學(xué)習(xí)領(lǐng)域的一個研究熱點(diǎn)，在很多領(lǐng)域都有廣闊的應(yīng)用前景。負(fù)相關(guān)學(xué)習(xí)(Negative Correlation Learning，NCL)是一種成功的神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)方法，它鼓勵集成的個體網(wǎng)絡(luò)的差異性，使不同個體網(wǎng)絡(luò)針對數(shù)據(jù)集的不同部分進(jìn)行訓(xùn)練和學(xué)習(xí)，具有“部分學(xué)習(xí)(Partial Learning)”的效果，從而使集成整體更好地學(xué)習(xí)整個數(shù)據(jù)集并且能夠克服“遺忘性”，表現(xiàn)出一定的增量

2、學(xué)習(xí)潛力。 圍繞著基于負(fù)相關(guān)神經(jīng)網(wǎng)絡(luò)集成的增量學(xué)習(xí)的研究和應(yīng)用，本文主要的工作是： 1)介紹了增量學(xué)習(xí)的發(fā)展背景，詳細(xì)描述了增量學(xué)習(xí)的定義，以及相對于傳統(tǒng)批量學(xué)習(xí)方式的優(yōu)勢，介紹了增量學(xué)習(xí)的研究現(xiàn)狀和一些經(jīng)典的算法，對增量學(xué)習(xí)當(dāng)前存在的難點(diǎn)問題和研究熱點(diǎn)進(jìn)行了討論。 2)介紹了集成學(xué)習(xí)的思想和概念，并在此基礎(chǔ)上引入負(fù)相關(guān)學(xué)習(xí)的概念，詳細(xì)介紹了負(fù)相關(guān)學(xué)習(xí)的算法原理，討論了它在增量學(xué)習(xí)領(lǐng)域的應(yīng)用(Fixed Size

3、 NCL和Growing NCL)。 3)對現(xiàn)有NCL增量學(xué)習(xí)算法進(jìn)行了實(shí)驗(yàn)研究，發(fā)現(xiàn)對于不同的測試問題和不同的增量方式，NCL參數(shù)的選擇對于增量學(xué)習(xí)性能有較大影響。提出利用演化算法優(yōu)化選擇NCL參數(shù)，再用該組NCL參數(shù)實(shí)施增量學(xué)習(xí)。在多個典型測試問題上的實(shí)驗(yàn)結(jié)果表明，本文方法能有效提高NCL增量學(xué)習(xí)的魯棒性、改進(jìn)算法性能，同時避免了手工調(diào)節(jié)參數(shù)的局限性。 4)為了解決人臉檢測完備樣本庫難以采集的問題，同時作為增量學(xué)習(xí)實(shí)