面向不平衡數(shù)據(jù)的結構化支持向量機集成方法研究.pdf

1、不平衡數(shù)據(jù)在實際應用中廣泛存在,如何從不平衡數(shù)據(jù)中學習并獲得分類器成為了當前機器學習研究領域的一個熱點。該方面的研究已經取得了一定的成果,并在入侵檢測、信用卡交易和基因編碼信息發(fā)現(xiàn)等應用領域得到了廣泛的應用。
　　 已有的針對均衡數(shù)據(jù)或代價不敏感的分類器評價準則對不平衡數(shù)據(jù)不再適合,因為不平衡數(shù)據(jù)的分類器更關注少數(shù)的分類精度。針對不平衡數(shù)據(jù)的分類問題,研究者側重從數(shù)據(jù)層面、算法層面和評價準則等三個方面展開研究,取得了一定的進展。

2、在已有的針對不平衡數(shù)據(jù)的分類學習方法中,支持向量機(SVM)的變種成了主流的方法之一,如:結構化不平衡支持向量機(StASVM),該模型是在不平衡支持向量機(ASVM)的基礎上,引入數(shù)據(jù)類內結構先驗信息,有效地提高了分類器的性能。本文以StASVM模型為基礎,結合集成學習方法,提出了基于結構化支持向量機的集成學習,主要工作如下:
　　 1.提出了基于StASVM的集成算法(EStASVM)。對大類樣本進行聚類并進行基于聚類的欠采

3、樣,進而構建多個子分類器,從而設計出子分類器的集成算法,其中欠采樣可有效地降低類別的不平衡性。實驗表明,集成方法能夠有效地提高算法的穩(wěn)定性和分類性能。
　　 2.提出了基于隨機子空間、特征選擇和StASVM的集成算法(RsStASVM)。該算法為從數(shù)據(jù)集的特征空間隨機采樣出發(fā),生成多個新的樣本特征空間,進而誘導出多個子分類器,從而設計出子分類器的集成算法。實驗表明,該方法對不平衡數(shù)據(jù)的分類,尤其能有效改進高維數(shù)據(jù)的分類性能。