多級(jí)分類器構(gòu)建及在不平衡數(shù)據(jù)的應(yīng)用研究.pdf

1、分類技術(shù)是數(shù)據(jù)挖掘領(lǐng)域一項(xiàng)重要的任務(wù)。如何根據(jù)訓(xùn)練集建立分類器，并使用該分類器準(zhǔn)確預(yù)測(cè)待測(cè)試實(shí)例的類別是衡量分類器好壞的標(biāo)準(zhǔn)。單級(jí)分類器通常只對(duì)訓(xùn)練集學(xué)習(xí)一次，在某些情況下測(cè)試時(shí)可能存在分類規(guī)則少，規(guī)則質(zhì)量不高，從而引起分類準(zhǔn)確率低的問題。此外，在現(xiàn)實(shí)世界里，存在大量不平衡數(shù)據(jù)。單級(jí)分類器在數(shù)據(jù)不平衡的情況下，更不能有效的提取足夠少數(shù)類的分類信息，導(dǎo)致少數(shù)類實(shí)例極易被錯(cuò)誤分類。多級(jí)分類器對(duì)訓(xùn)練集學(xué)習(xí)多次，可以提高分類規(guī)則數(shù)量，有效提高分

2、類精度。同時(shí)，多級(jí)分類器是處理不平衡數(shù)據(jù)分類的有效方式。本文圍繞多級(jí)分類器分類算法進(jìn)行研究，提出三種新的多級(jí)分類算法模型。從單個(gè)分類器算法、不同訓(xùn)練方式及融合多分類器方法三個(gè)方面進(jìn)行改進(jìn)。改進(jìn)的方法不僅可以提高分類準(zhǔn)確率，而且可以有效的針對(duì)不平衡數(shù)據(jù)特點(diǎn)，提高不平衡數(shù)據(jù)分類精度。
　　本文的主要研究工作如下：
　　首先，提出基于實(shí)例多覆蓋多級(jí)分類算法。實(shí)例覆蓋算法是對(duì)決策樹算法的改進(jìn)，基于實(shí)例多覆蓋多級(jí)分類算法是以實(shí)例覆蓋算

3、法作為基分類器，對(duì)訓(xùn)練集進(jìn)行多次訓(xùn)練，生成大量分類規(guī)則，以達(dá)到使訓(xùn)練集中每個(gè)實(shí)例被分類規(guī)則多次覆蓋，提高了分類準(zhǔn)確率。
　　其次，提出基于規(guī)則提取多級(jí)分類算法。不同于傳統(tǒng)基于規(guī)則分類算法,基于規(guī)則提取多級(jí)分類算法一次產(chǎn)生較大規(guī)模候選集，一次生成大量規(guī)則。一次規(guī)則生成后，訓(xùn)練集中的實(shí)例至少被規(guī)則覆蓋兩次才被刪除，并重復(fù)規(guī)則提取過程。
　　最后，針對(duì)不平衡數(shù)據(jù)設(shè)計(jì)多級(jí)分類器?？紤]不平衡數(shù)據(jù)中少數(shù)類實(shí)例難以提取規(guī)則且誤分概率大等特