面向在線不均衡數(shù)據(jù)分類的極限學習機算法研究.pdf

1、在實際工程問題中，存在大量的類別不均衡問題，如故障診斷、網(wǎng)絡入侵檢測等。且該類問題具有明顯的時間特點，尤其是在大規(guī)模數(shù)據(jù)環(huán)境下，數(shù)據(jù)通常是按序到達，是一種典型的在線不均衡分類問題。極限學習機作為一種單隱層前饋神經(jīng)網(wǎng)絡，具有極端快速的特點，同時其泛化性能良好，可有效解決在線貫序數(shù)據(jù)的分類問題。然而，極限學習機通常是以提高樣本整體的分類精度為目標，當類別嚴重不均衡時，極易導致分類面偏移，造成“虛假”的分類效果。因此，本文將根據(jù)數(shù)據(jù)特點和應用

2、需求，在前端充分采集數(shù)據(jù)和處理數(shù)據(jù)的基礎上，進行后端機器學習理論和算法的研究，提出一系列更適合在線不均衡分類問題的算法。主要工作和貢獻如下:
　　(1)為提高不均衡在線貫序數(shù)據(jù)中少類樣本的分類精度，提出一種基于不均衡樣本重構的加權在線極限學習機算法。該算法的關鍵是在提取數(shù)據(jù)分布特性的基礎上，對不均衡樣本重構。為此，引入主曲線的概念，并在此基礎上改進SMOTE方法，從而提高少類樣本的過采樣質量，同時，為突出樣本重要性，采用動態(tài)加權的

3、思想，根據(jù)訓練誤差為在線樣本賦以相應大小的權重。最終在不增加算法復雜度的前提下，對少類樣本的預測精度更高，同時數(shù)值穩(wěn)定性良好。
　　(2)針對現(xiàn)有分類算法泛化性能較低的問題，提出一種基于留一交叉驗證的在線極限學習機算法，既實現(xiàn)了對在線泛化誤差的快速有效估計，又大大降低了時間復雜度。為解決在線樣本的不均衡問題，根據(jù)留一誤差進行欠采樣，同時，為保證模型的簡約性，采用增刪機制動態(tài)更新網(wǎng)絡權值，并從信息熵的角度給出在線欠采樣過程中存在損失

4、信息上界，進而從理論上證明了該算法的有效性。
　　(3)為進一步提高不均衡在線數(shù)據(jù)中少類樣本的識別率，同時盡可能減少多類樣本的分類精度損失，提出一種基于混合采樣策略的在線極限學習機算法。該算法在遵循樣本分布特性的同時，根據(jù)樣本重要度指標篩選最具價值的樣本點，實現(xiàn)樣本重構。同時為保證模型的泛化性能，根據(jù)在線留一誤差進行動態(tài)模型調(diào)整，以確保最優(yōu)網(wǎng)絡結構，并通過理論分析和大量仿真實驗證明該算法的合理性和有效性。
　　本文研究不僅拓