DBSCAN算法參數(shù)自適應(yīng)研究及其在Spark平臺(tái)上的應(yīng)用.pdf

1、近年來，云計(jì)算的興起推動(dòng)了大數(shù)據(jù)集平臺(tái)的發(fā)展。數(shù)據(jù)處理的核心是數(shù)據(jù)挖掘與知識(shí)發(fā)現(xiàn)，Spark作為一個(gè)大數(shù)據(jù)處理平臺(tái)，通過引入RDD模型提高了數(shù)據(jù)處理速度，迎合了企業(yè)、學(xué)者數(shù)據(jù)處理的需求。聚類算法是數(shù)據(jù)挖掘一個(gè)重要組成部分，作為該類算法的典型代表，DBSCAN算法能夠從有噪聲的數(shù)據(jù)集中識(shí)別出任意形狀的簇，具有很好的聚類效果。但是該算法對(duì)輸入?yún)?shù)較為敏感，不能實(shí)現(xiàn)參數(shù)自適應(yīng)，尤其對(duì)非均勻數(shù)據(jù)集聚類，全局參數(shù)嚴(yán)重影響聚類的效果，并且其計(jì)算復(fù)雜

2、度高，處理海量數(shù)據(jù)效率低下。本文針對(duì)這些問題提出了解決方法，主要工作有以下幾個(gè)方面：
　?。?）針對(duì)不能有效處理非均勻數(shù)據(jù)集和對(duì)參數(shù)敏感的問題，本文提出的一種基于劃分的DBSCAN改進(jìn)算法，通過計(jì)算獲得數(shù)據(jù)集的KNN矩陣，根據(jù)KNN矩陣中的信息得到密度跳變閾值，并以此將數(shù)據(jù)集劃分為不同密度的數(shù)據(jù)集。根據(jù)聚類效果指數(shù)的值自動(dòng)確定閾值MinPts，并估計(jì)每個(gè)數(shù)據(jù)集合的鄰域半徑，最后在劃分的每個(gè)數(shù)據(jù)集合上使用MinPts和相應(yīng)的Eps進(jìn)

3、行動(dòng)態(tài)鄰域的局部聚類，并將得到的結(jié)果合并。實(shí)驗(yàn)表明改進(jìn)算法PDBSCAN對(duì)自適應(yīng)和處理密度分布不均勻數(shù)據(jù)集的聚類效果優(yōu)于 DBSCAN算法、VDBSCAN算法和AGD-DBSCAN算法。
　?。?）為了降低算法的運(yùn)行時(shí)間，減少I/O消耗,本文對(duì)改進(jìn)算法實(shí)現(xiàn)了基于Spark的運(yùn)行并行化。實(shí)驗(yàn)表明，改進(jìn)算法的并行化能夠有效的減少算法的運(yùn)行時(shí)間，充分展示了Spark處理大數(shù)據(jù)的優(yōu)越性。最后對(duì)互聯(lián)網(wǎng)用戶行為數(shù)據(jù)在興趣愛好方面進(jìn)行挖掘，為個(gè)