互信息多元時間序列相關分析與變量選擇.pdf

1、碩士學位論文互信息多元時間序列相關分析與變量選擇CorrelationAnalysisandVariableSelectionforMultivariateTimeSeriesbasedonMutualInformationerlesa學號：21009179完成日期：201365大連理工大學DalianUniversityofTechnology大連理工大學碩士學位論文摘要多元時間序列廣泛存在于生產(chǎn)生活的各個領域之中。時間序列采樣值之間

2、，序列與序列之間往往存在復雜多變的關聯(lián)特性。合理利用這些數(shù)據(jù)特性，分析變量之間的相關性，有助于識別出與預測對象不相關的無關變量，以及對預測對象作用相似的冗余變量。進而對輸入變量進行有效選擇，降低模型規(guī)模和計算復雜度，最終達到提高模型預測性能的目的。本文從多元時間序列的數(shù)據(jù)特點出發(fā)，在相關性分析的基礎之上對變量進行有效降維，為預測模型構建合適的輸入。由于互信息不需預先假設數(shù)據(jù)的分布類型，且能夠有效捕捉非線性相關關系，本文提出以互信息作為相

3、關性分析方法的變量選擇算法。針對現(xiàn)有單一評價函數(shù)中相關項與冗余項不平衡的問題，提出一種基于互信息的分步式變量選擇算法，通過兩個步驟分別實現(xiàn)相關變量的選擇和弱相關變量的剔除。同時將其應用于RBF網(wǎng)絡隱含層節(jié)點的選擇之中，實現(xiàn)網(wǎng)絡輸入層與隱含層的結構優(yōu)化。封裝式算法由于需要反復訓練模型，往往計算復雜度較高，本文將互信息與具有快速訓練機制的極端學習機模型相結合，提出一種封裝式的變量選擇算法，在網(wǎng)絡的訓練過程中，同時確定輸入層與隱含層的規(guī)模?；?/p>

4、信息估計的準確程度對于變量選擇至關重要，而聯(lián)合概率密度函數(shù)的估計一直是互信息估計中的難點。為解決該問題，將互信息估計轉化為Copula熵的估計問題，分別提出基于不同Copula函數(shù)類型的參數(shù)方法和基于截斷k近鄰的非參數(shù)方法，并將非參數(shù)估計方法用于大連氣象序列的變量選擇之中。針對以矩陣形式出現(xiàn)的一類多元時間序列數(shù)據(jù)的分類問題，采用互信息提取序列的特征，在類可分離性的基礎上提出變量可分離性的概念用以衡量各變量之間的區(qū)分程度。在UCI腦電信號