面向不均衡數(shù)據(jù)集中少數(shù)類樣本細(xì)分的過采樣算法的研究.pdf

1、在數(shù)據(jù)挖掘研究中，分類問題一直是備受研究學(xué)者關(guān)注的方向。傳統(tǒng)的分類算法對樣本類別分布均衡的數(shù)據(jù)集進(jìn)行分類往往能夠取得較好的分類效果。但在實(shí)際應(yīng)用中，通常數(shù)據(jù)集的類別分布不平衡，即當(dāng)數(shù)據(jù)集中某一類別樣本的數(shù)目明顯多于其他類別樣本時(shí)，傳統(tǒng)的分類算法往往不能夠很好的對這種數(shù)據(jù)集分類。由于不均衡數(shù)據(jù)集中，各個少數(shù)類樣本相對于決策邊界的分布各不相同，且越靠近決策邊界的樣本越易被錯分，對分類器而言便更具有學(xué)習(xí)的價(jià)值，因此，本文提出面向少數(shù)類樣本細(xì)分

2、的過采樣算法，按照少數(shù)類樣本相對于決策邊界的分布差異，將少數(shù)類樣本集劃分為多個細(xì)分，再對不同細(xì)分做不同的過采樣處理，更加合理有效地達(dá)到多數(shù)類與少數(shù)類均衡的目的。本文學(xué)習(xí)了已有的經(jīng)典過采樣算，總結(jié)分析各自的優(yōu)點(diǎn)與不足，并以面向少數(shù)類樣本的細(xì)分為基礎(chǔ)，提出如下改進(jìn)：
　　1.少數(shù)類樣本相對于決策邊界的分布具有差異性，經(jīng)典過采樣算法通常并未對它們做區(qū)別處理，或者僅處理部分樣本的信息。本文按照少數(shù)類樣本的 k近鄰分布，將其劃分至DANGE

3、R、AL_SAFE、SAFE三個細(xì)分中，對不同細(xì)分中的樣本使用不同的采樣策略進(jìn)行處理，有效的利用不同細(xì)分的所有少數(shù)類樣本信息；
　　2. AL_SAFE細(xì)分中樣本依然靠近決策邊界，但數(shù)量較多，因此需要減少在原本少數(shù)類樣本分布稠密的區(qū)域的采樣數(shù)量，增大稀疏區(qū)域采樣數(shù)量。少數(shù)類樣本的 k近鄰中，同類樣本數(shù)越多，表示其支持度越高，選擇概率越小。利用輪盤賭進(jìn)行選擇，使得采樣范圍分布更加均勻。上述兩步稱之為SD-ISMOTE算法。
　

4、　3.上述算法在對已有少數(shù)類樣本細(xì)分后，僅從細(xì)分級別的粒度進(jìn)行過采樣操作，細(xì)分內(nèi)部樣本分布不均衡的情況并未處理。為此，使用 K-均值聚類方法對每個細(xì)分聚類，形成若干個簇再從簇的級別進(jìn)行過采樣，合理確定每個細(xì)分中的每個簇的采樣數(shù)量，以此解決細(xì)分內(nèi)部樣本分布不均衡的問題；
　　4.在對AL_SAFE細(xì)分樣本處理過程中，由于使用已有的采樣策略僅能在初始點(diǎn)間的距離為半徑的球體內(nèi)采樣，不能更大限度將決策邊界向多數(shù)類方向推移。因此，增大采樣隨