代價(jià)敏感的缺失值填充若干問(wèn)題研究.pdf

1、在數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)、模式識(shí)別和信息檢索等數(shù)據(jù)分析等理論的應(yīng)用領(lǐng)域中,數(shù)據(jù)的缺失是一個(gè)處處存在,不可避免且具有挑戰(zhàn)性的問(wèn)題。由于理論發(fā)展和實(shí)際應(yīng)用的需要,國(guó)內(nèi)外許多學(xué)者都較為深入地研究了缺失數(shù)據(jù)的成因、類型以及填充算法。各種用于缺失數(shù)據(jù)填充的算法已經(jīng)被提出,典型的算法有:EM算法、單一填充法、多重填充算法和C4.5算法。但是,上述這些處理缺失數(shù)據(jù)的方法都是獨(dú)立于具體應(yīng)用的,也就是說(shuō)它們是不考慮具體的應(yīng)用領(lǐng)域而獨(dú)立的填充算法。然而最新的研

2、究結(jié)果指出這些不依賴于具體應(yīng)用的填充算法對(duì)于一些機(jī)器學(xué)習(xí)任務(wù)(如代價(jià)敏感學(xué)習(xí))來(lái)說(shuō)是不適用的。在用給定的含有缺失數(shù)據(jù)的數(shù)據(jù)集訓(xùn)練一棵代價(jià)敏感決策樹(shù)時(shí),由于受到總代價(jià)約束的原因使得一些屬性的缺失值不用去填充。故我們需要彌補(bǔ)代價(jià)敏感學(xué)習(xí)與缺失值填充問(wèn)題之間留下的空白。在數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)領(lǐng)域,代價(jià)敏感問(wèn)題的研究一直是一個(gè)熱點(diǎn)問(wèn)題,國(guó)內(nèi)和國(guó)外的很多研究人員或研究機(jī)構(gòu)在代價(jià)敏感問(wèn)題方面都做了許多研究,并提出了很多新的理論與方法。這當(dāng)中最受關(guān)注的

3、是兩類代價(jià):即測(cè)試代價(jià)和誤分類代價(jià)。在國(guó)外,最早針對(duì)數(shù)據(jù)缺失處理技術(shù)展開(kāi)研究的是美國(guó),它研究的出發(fā)點(diǎn)是糾正整個(gè)美國(guó)社會(huì)保險(xiǎn)的數(shù)據(jù)差錯(cuò)。在此期間學(xué)者們提出了利用與缺失數(shù)據(jù)最近似的值來(lái)填補(bǔ)空缺數(shù)據(jù)的方法,例如k近鄰分類、粗糙集理論、貝葉斯網(wǎng)、神經(jīng)網(wǎng)絡(luò)(NN)等。目前在國(guó)內(nèi),對(duì)缺失值填充問(wèn)題的研究尚處在起步階段,盡管在一些學(xué)術(shù)會(huì)議和期刊文獻(xiàn)中也可以找到一些有關(guān)缺失值理論性研究,但是對(duì)缺失數(shù)據(jù)處理直接相關(guān)的研究成果并不常見(jiàn)。此外基于代價(jià)敏感的缺

4、失值填充這種新穎的方法在國(guó)內(nèi)外的研究中尚屬罕見(jiàn)。上述前人的研究工作為本文的研究提供了堅(jiān)實(shí)的理論方法基礎(chǔ)。本論文在此之上將對(duì)現(xiàn)有的代價(jià)敏感的CII算法進(jìn)行改進(jìn),并準(zhǔn)備對(duì)代價(jià)敏感缺失值填充的以下幾個(gè)問(wèn)題進(jìn)行討論與研究:(1)研究現(xiàn)有考慮代價(jià)敏感問(wèn)題的缺失值填充算法的優(yōu)點(diǎn)與缺點(diǎn),針對(duì)其存在的問(wèn)題進(jìn)行算法改進(jìn),算法策略思想予以實(shí)現(xiàn),從而做為實(shí)驗(yàn)改進(jìn)算法性能的平臺(tái);(2)提出對(duì)于代價(jià)敏感缺失值填充的有用屬性的選擇理論,即提出一個(gè)有效發(fā)現(xiàn)absen