基于條件信息熵的超高維分類數(shù)據(jù)特征篩選.pdf

1、近年來，超高維數(shù)據(jù)分析與處理中的計(jì)算成本、統(tǒng)計(jì)精度、算法穩(wěn)定性等方面問題，是當(dāng)前人們關(guān)注的研究熱點(diǎn)。超高維數(shù)據(jù)的特征篩選已經(jīng)廣泛地應(yīng)用到生物影像，高頻時(shí)間序列分析，腫瘤分類和經(jīng)濟(jì)預(yù)測等相關(guān)大數(shù)據(jù)問題之中。然而，對(duì)于解決超高維數(shù)據(jù)相關(guān)問題，現(xiàn)有的高維數(shù)據(jù)變量選擇方法并不適用。于是，研究者依據(jù)變量之間相關(guān)性來構(gòu)建篩選指標(biāo)，針對(duì)不同模型不同數(shù)據(jù)類型提出了相應(yīng)的邊緣篩選方法，實(shí)例分析顯示效果顯著。
　　本文沒有遵從已有的根據(jù)變量之間相關(guān)性

2、進(jìn)行特征篩選的研究路線，而是從信息量的角度出發(fā)，根據(jù)信息熵反映變量所包含的信息量大?。ɑ舅枷胧?如果協(xié)變量包含的信息量較少，說明它對(duì)響應(yīng)變量所做的貢獻(xiàn)較少，可以認(rèn)為該協(xié)變量為不重要變量）來構(gòu)建篩選指標(biāo)，實(shí)現(xiàn)超高維數(shù)據(jù)特征篩選。針對(duì)兩類別響應(yīng)變量，本文依據(jù)不同類別條件下協(xié)變量的信息熵之間的差值建立篩選指標(biāo)提出了條件信息熵特征篩選方法(CIES)。當(dāng)響應(yīng)變量為多類別數(shù)據(jù)時(shí)，在CIES篩選方法的基礎(chǔ)上，結(jié)合響應(yīng)變量的類別概率構(gòu)建相應(yīng)的篩選指