類別不平衡與代價敏感數(shù)據(jù)的集成分類方法研究.pdf

1、隨著大數(shù)據(jù)時代的來臨，機器學習作為現(xiàn)代數(shù)據(jù)分析技術(shù)的理論基石，發(fā)揮了至關(guān)重要的作用，同時也面臨著大大小小的挑戰(zhàn)。分類問題作為機器學習領(lǐng)域最基本最核心的問題之一，持續(xù)受到學術(shù)界的熱切關(guān)注。傳統(tǒng)的分類算法一般基于兩個假設(shè):一是不同類別的樣本數(shù)量大致相同;二是不同類別的錯分代價基本相等。然而在真實世界中，數(shù)據(jù)集往往存在類別不平衡問題和代價敏感問題，這使得基于準確率的傳統(tǒng)分類算法變得不再適用。類別不平衡指的是不同類別的樣本數(shù)量分布不平衡;代價敏

2、感指的是不同類別的錯誤分類代價相差很大。在類別不平衡的數(shù)據(jù)集中，傳統(tǒng)分類算法為了獲得較高準確率，傾向于錯分少數(shù)類樣本，然而這些少數(shù)類樣本往往更加重要;在代價敏感的數(shù)據(jù)集中，傳統(tǒng)分類算法對錯誤分類代價不敏感，無法最小化錯誤分類總代價。
　　由于類別不平衡問題和代價敏感問題在現(xiàn)實中的普遍性和重要性，國內(nèi)外學術(shù)界對此展開了廣泛而深入的研究，并提出了各種各樣的解決方法。經(jīng)過歸納總結(jié)，這些方法大致從兩個層面來解決問題:一是從數(shù)據(jù)層面，通過重

3、構(gòu)訓練集改變樣本分布，典型的是采用重采樣技術(shù);二是從算法層面，通過重新設(shè)計現(xiàn)有算法使之適應(yīng)這兩個問題，典型的是代價敏感學習和基于Boosing的方法。在這些方法中，集成學習扮演了舉足輕重的角色。經(jīng)過十幾年的研究，該領(lǐng)域已經(jīng)取得了十分矚目的成就，但是仍然存在一些問題，比如過擬合，丟失信息等，影響了分類模型的穩(wěn)定性和可靠性。
　　本文針對類別不平衡問題和代價敏感問題，做了以下兩點工作:
　　提出兩種基于重采樣的集成分類方法:xE