大規(guī)模數(shù)據(jù)集中快速檢測(cè)離群點(diǎn)算法的研究.pdf

1、近年來，隨著數(shù)據(jù)收集與存儲(chǔ)技術(shù)的提高，人們收集到的數(shù)據(jù)量呈指數(shù)速度增長(zhǎng)，傳統(tǒng)的離群點(diǎn)檢測(cè)方法在處理大規(guī)模數(shù)據(jù)集時(shí)已開始表現(xiàn)出極大的局限性。大規(guī)模數(shù)據(jù)集具有數(shù)據(jù)數(shù)量大、類型繁多等特點(diǎn)，同時(shí)蘊(yùn)藏著大量的信息或知識(shí)，而這些信息或知識(shí)只有被及時(shí)地從數(shù)據(jù)中檢測(cè)出來才有可能給人們帶來效益。因此，需要研究從大規(guī)模數(shù)據(jù)集中快速檢測(cè)離群點(diǎn)的新方法，為決策提供支持。
　　現(xiàn)有的從大規(guī)模數(shù)據(jù)集中檢測(cè)離群點(diǎn)的加速方法存在的主要局限是:(1)在進(jìn)行數(shù)據(jù)劃分

2、時(shí)大多沒有考慮數(shù)據(jù)之間的關(guān)聯(lián)性，致使每個(gè)數(shù)據(jù)最近鄰的確定涉及整個(gè)數(shù)據(jù)集;實(shí)際上，數(shù)據(jù)的最近鄰只存在于某個(gè)較小范圍內(nèi)。(2)在分布式檢測(cè)方法中，未能給出有效的終止規(guī)則和合理的數(shù)據(jù)傳遞模式，導(dǎo)致節(jié)點(diǎn)間的通信量大，降低了算法的總運(yùn)行效率。
　　針對(duì)以上兩個(gè)問題，本文采用BIRCH(Balanced Iterative Reducing andClustering using Hierarchies，BIRCH)聚類方法對(duì)原始數(shù)據(jù)集進(jìn)行劃

3、分，并在此基礎(chǔ)上利用簇中所包含的統(tǒng)計(jì)概要信息計(jì)算簇與簇之間的距離，再根據(jù)該距離給出縮小數(shù)據(jù)塊查找范圍的方法、數(shù)據(jù)塊處理的優(yōu)化方法、簇內(nèi)索引的構(gòu)建方法以及數(shù)據(jù)傳遞和數(shù)據(jù)處理順序的優(yōu)化策略。本文的主要工作如下:
　　(1)分析比較了幾種具有代表性的傳統(tǒng)離群點(diǎn)檢測(cè)方法;歸納總結(jié)了現(xiàn)有針對(duì)大規(guī)模數(shù)據(jù)集離群點(diǎn)檢測(cè)技術(shù)的現(xiàn)狀和發(fā)展趨勢(shì)。
　　(2)針對(duì)現(xiàn)有大規(guī)模數(shù)據(jù)集中檢測(cè)離群點(diǎn)的加速方法沒有將數(shù)據(jù)集進(jìn)行合理劃分導(dǎo)致離群點(diǎn)檢測(cè)過程計(jì)算量

4、大、磁盤I/O頻繁等問題，提出基于聚類劃分的離群點(diǎn)檢測(cè)算法。算法采用BIRCH聚類方法對(duì)數(shù)據(jù)集進(jìn)行劃分后，根據(jù)簇與簇之間的距離給出縮小數(shù)據(jù)塊查找范圍的方法和數(shù)據(jù)塊處理的優(yōu)化方法。縮小數(shù)據(jù)塊的查找范圍可以減少數(shù)據(jù)點(diǎn)之間的比較次數(shù)從而減少距離的計(jì)算量，優(yōu)化的數(shù)據(jù)塊處理方法可以減少磁盤I/O次數(shù)，兩者相結(jié)合可有效提高算法的檢測(cè)效率。
　　(3)針對(duì)現(xiàn)有基于分布式的離群點(diǎn)檢測(cè)方法沒有對(duì)原始數(shù)據(jù)集進(jìn)行合理劃分，且未能給出合理的終止規(guī)則和有效

5、的數(shù)據(jù)傳遞模式的問題。本文提出一種基于聚類和索引的分布式離群點(diǎn)檢測(cè)算法(Distributed Outlier Detection based onClustering and Indexing，DODCI)。該算法既考慮了數(shù)據(jù)的劃分，又考慮了數(shù)據(jù)的處理順序以使后續(xù)剪枝過程的剪枝因子能在初始階段獲得一個(gè)較高的值，進(jìn)而提高剪枝效率。同時(shí)，算法在分布計(jì)算的過程中還結(jié)合了兩個(gè)優(yōu)化策略和兩條剪枝規(guī)則，以減少節(jié)點(diǎn)之間的通信消耗。
　　(4)