神經網絡集成算法設計及分析.pdf

1、神經網絡集成是目前國際機器學習和神經計算界的一個相當活躍的研究熱點，對該問題的研究不僅有助于科學家對機器學習和神經計算的深入研究，還有助于普通工程技術人員利用神經網絡來解決真實世界中的問題。對神經網絡集成實現方法的研究主要集中在兩個方面，即怎樣將多個神經網絡的輸出結論進行結合以及如何生成集成中的個體網絡。 研究表明，組成集成的個體神經網絡之間的差異性是集成有效的主要原因，只有集成中各個體神經網絡產生的錯誤表現一定程度的差異性，即

2、它們產生的錯誤分布在不同的數據空間，一個神經網絡產生的錯誤才能夠被集成中其它的神經網絡補償，集成才會有效。從集成差異性的角度，集成中個體神經網絡生成分為兩種方法：直接生成方法、過產生和選擇方法。過產生和選擇方法先生成一組規(guī)模較大的神經網絡，然后基于某種準則進行神經網絡選擇形成集成，使得集成中神經網絡具有差異性。 本文把神經網絡用于模式分類問題，對集成中個體神經網絡產生以及它們結論結合方法進行了研究。 基于模糊聚類思想，提

3、出了一種神經網絡集成方法。利用隸屬度函數，構造了一個分布函數，根據分布函數對訓練數據進行抽樣，用所抽得的數據作為個體神經網絡的訓練樣本訓練多個神經網絡構成神經網絡集成。理論分析和實驗結果表明，該方法對模式分類能取得較好的效果。 另外，基于模糊聚類思想，提出了一種加權神經網絡集成的方法，該方法計算每個測試樣本分別到每個模糊聚類中心的距離，并用這個距離估計該樣本屬于各類的隸屬度，然后對每個神經網絡的輸出結果用求得的隸屬度進行加權結合

4、。 基于模式特征數據聚類，提出了一種選擇性神經網絡集成方法，通過聚類把模式特征空間劃分成不相交的區(qū)域，對于初始神經網絡集合，各區(qū)域給出神經網絡的刪除分值，各神經網絡總分值確定它的刪除優(yōu)先級別，由刪除優(yōu)先級別選擇一組神經網絡組成集成。理論分析和實驗結果表明，基于聚類選擇的神經網絡集成方法能夠更好的對模式進行分類?；谏窠浘W絡間的差異性，提出了一種選擇性神經網絡集成方法。該方法利用差異性度量，選擇滿足一定條件的個體神經網絡組成神經網