基于粗糙集的不平衡數(shù)據(jù)采樣方法研究.pdf

1、不平衡數(shù)據(jù)分類問題是機器學(xué)習(xí)領(lǐng)域里一個重要的研究內(nèi)容。在不平衡數(shù)據(jù)中，樣本在各個類別之間地分布是不平衡的。由于少數(shù)類樣本數(shù)量稀少，用傳統(tǒng)的機器學(xué)習(xí)方法在應(yīng)對不平衡數(shù)據(jù)分類問題時會出現(xiàn)分類結(jié)果更多傾向于多數(shù)類，而少數(shù)類樣本的識別準確率不高，對少數(shù)類樣本識別困難。為提高少數(shù)類樣本的識別率，研究人員在不同層面提出了解決辦法，其中通過采樣改變數(shù)據(jù)不平衡度從而改善少數(shù)類識別率的方法取得了比較廣泛地應(yīng)用，這其中最具代表性的算法就是SMOTE智能過采

2、樣算法。但是，SMOTE采樣算法不加區(qū)分地對所有少數(shù)類樣本采樣，其采樣范圍過廣。雖然能夠達到提高少數(shù)類識別率的目的，但同時多數(shù)類的決策空間被新樣本壓縮，其識別率降低較大。因此采樣前對需要采樣的少數(shù)類樣本進行篩選，研究有針對性的過采樣方法很有必要。
　　鄰域粗糙集模型將粗糙集理論應(yīng)用到鄰域系統(tǒng)中，該模型以樣本點及其鄰域半徑為基礎(chǔ)，可以很容易得出整個不平衡數(shù)據(jù)集在特征空間的分布狀態(tài)，如果能夠把它應(yīng)用到SMOTE采樣算法中，則可能得到采

3、樣效果更好的采樣方法。本文結(jié)合鄰域粗糙集模型，開展了基于鄰域粗糙集的采樣方法的研究。首先，根據(jù)鄰域粗糙集模型的理論，計算每個樣本的鄰域半徑以及鄰域，根據(jù)其鄰域內(nèi)的樣本分布將不平衡數(shù)據(jù)集進行劃分并得到屬于邊界域的少數(shù)類樣本集與屬于正域的多數(shù)類樣本集。在此基礎(chǔ)上，結(jié)合SMOTE采樣算法，提出了基于鄰域粗糙集的邊界采樣算法，即NRSBoundary-SMOTE算法。算法對邊界域內(nèi)少數(shù)類樣本進行過采樣，同時將合成樣本與正域內(nèi)的多數(shù)類樣本進行比較

4、，若合成樣本屬于某個正域內(nèi)多數(shù)類樣本的鄰域，則進行重采樣，否則將合成樣本加入到訓(xùn)練集中。其次，在將NRSBoundary-SMOTE算法應(yīng)用到大數(shù)據(jù)集上時出現(xiàn)了運行時間過長，執(zhí)行效率過低的問題。因此本文結(jié)合MapReduce編程范式，提出了基于鄰域粗糙集的并行邊界采樣算法，即 Parallel-NRSBoundary-SMOTE。算法通過將數(shù)據(jù)集劃分的過程與采樣過程進行并行化，降低了算法的時間復(fù)雜度，有效改善在大數(shù)據(jù)上的計算效率。