基于鄰域要素的局部密度離群點檢測.pdf

1、現(xiàn)今的大多數(shù)數(shù)據(jù)挖掘算法更偏重于發(fā)現(xiàn)大部分?jǐn)?shù)據(jù)的模式匹配，卻不太深入研究那些偏離模式的特殊數(shù)據(jù)對象。然而恰恰就是這些罕見事件、特殊對象、異常信息的價值有時候往往會比正常的數(shù)據(jù)對象更具有研究價值，更受人們青睞。例如異常銀行卡取錢當(dāng)中，人們并不關(guān)心正常額度的取款信息，而更加看重那種大額等異常取款信息;在流量信息分析中，人們可以通過檢測異常流量信息來推斷是否足中病毒;在病例圖像分析中，人們可以通過檢測異常像素點來推測是否為癌癥患者等等。從上面

2、的描述可以看出，離群點應(yīng)該是具有研究價值、特殊意義的數(shù)據(jù)對象，而不是由于數(shù)據(jù)冗余、數(shù)據(jù)缺失等原因產(chǎn)生的噪聲。Hawkins認(rèn)為離群點是另一種機制產(chǎn)生的不同信號;它偏離了正常的觀測信號。
　　 為了發(fā)現(xiàn)這類有研究意義的離群點，人們先后提出了基于統(tǒng)計的離群點檢測方法、基于距離的離群點檢測方法、基于密度的離群點檢測方法、基于深度的離群點檢測方法、基于偏差的離群點檢測方法、基于聚類的離群點檢測方法。其中基于密度的離群點檢測方法尤為出色，

3、它從局部出發(fā)，從對象的鄰居來看待其孤立情況。算法可以檢測各種形狀的簇，同時也適合于全局情況。但該算法計算量復(fù)雜，這個致命缺點使得算法不適合比較大的數(shù)據(jù)集。為了將局部離群點檢測方法用于現(xiàn)實?；钪校瑢Υ耍藗冇痔岢隽擞绵徲虬霃絹砗饬烤植靠蛇_密度，用以減少計算量。然而，這種思想只是粗糙的度量了鄰域的密度，精確度不夠。
　　 針對以上一些問題，本文提出了基于鄰域要素的局部密度離群點檢測算法。基于以前方法存在的問題，本文進行了如下研究:1

4、、針對局部離群點檢測不適于大數(shù)據(jù)集問題，提出了利用基于微粒群和變異模糊c均值算法相結(jié)合的聚類算法撇除一大部分非離群點，從而減少可疑離群點規(guī)模;并且將離群因子中最大的前m個作為離群點，減少了參數(shù)的輸入;2、針對局部離群點檢測計算量復(fù)雜問題，本文提出了利用鄰域要素:鄰域半徑的大小、規(guī)模、緊湊度共同來衡量鄰域密度的大小，從而替代局部可達密度;3、聚類不是專門用來檢測離群點，因而精確性又不夠;為了解決這一問題，本文提出了，將在聚類過程中產(chǎn)生的可