大數(shù)據(jù)挖掘中的并行算法研究及應(yīng)用.pdf

1、隨著大數(shù)據(jù)時(shí)代的到來(lái)，信息已經(jīng)出現(xiàn)爆炸式的增長(zhǎng)，如何從海量數(shù)據(jù)中挖掘出有效的信息，是我們面臨的難題。傳統(tǒng)的數(shù)據(jù)挖掘算法在面對(duì)大數(shù)據(jù)的時(shí)候，就顯得無(wú)能為力。利用集群并行計(jì)算的能力，在多臺(tái)機(jī)器上同時(shí)處理數(shù)據(jù)，這樣處理數(shù)據(jù)的效率將大大提高。
　　Hadoop、Spark是 Apache推出的分布式處理框架，主要用來(lái)作大數(shù)據(jù)的存儲(chǔ)和分布式計(jì)算。HDFS具備高吞吐率、高容錯(cuò)的文件讀寫(xiě)能力；Spark、MapReduce提供了并行編程模型，用

2、戶只需調(diào)用相關(guān)的API即可完成分布式處理程序。這些開(kāi)源的框架為大數(shù)據(jù)的處理提供了有利的條件。
　　本文結(jié)合現(xiàn)階段比較熱門(mén)的分布式處理框架hadoop、Spark等，研究數(shù)據(jù)挖掘算法的并行化，并對(duì)算法進(jìn)行并行化的改進(jìn)。主要工作有以下幾個(gè)方面：
　　（1）協(xié)同過(guò)濾算法的并行化改進(jìn)：現(xiàn)有的基于共現(xiàn)矩陣的并行協(xié)同過(guò)濾算法，當(dāng)項(xiàng)目較多時(shí)，在構(gòu)建共現(xiàn)矩陣以及計(jì)算矩陣相乘的過(guò)程中將會(huì)消耗大量的時(shí)間，并且忽略了鄰居用戶的作用，在一定程度上影

3、響推薦的精度。針對(duì)這一問(wèn)題，本文提出了改進(jìn)的并行協(xié)同過(guò)濾算法（ACF），并在Spark上作具體實(shí)現(xiàn)。經(jīng)過(guò)實(shí)驗(yàn)表明，本文改進(jìn)的并行協(xié)同過(guò)濾算法比基于共現(xiàn)矩陣的并行算法具有更好的運(yùn)行效率和更高的推薦精度。
　　（2）關(guān)聯(lián)規(guī)則FP_Growth算法的并行化改進(jìn)：現(xiàn)有的并行PFP_Growth算法，在 FList分組的步驟中，沒(méi)有考慮分組中負(fù)載均衡的問(wèn)題。針對(duì)這一點(diǎn)，本文在PFP_Growth算法的基礎(chǔ)之上，提出了基于二分策略分組的負(fù)載均

4、衡改進(jìn)（APFP_Growth）。經(jīng)過(guò)實(shí)驗(yàn)表明，改進(jìn)的APFP_Growth算法具有很好的可擴(kuò)展性，并且比PFP_Growth算法具有更好的負(fù)載均衡效果。
　　（3）設(shè)計(jì)并實(shí)現(xiàn)一個(gè)大數(shù)據(jù)挖掘核心分析平臺(tái)，能夠?qū)Υ笠?guī)模數(shù)據(jù)集進(jìn)行挖掘分析。該平臺(tái)提供聚類、推薦、關(guān)聯(lián)規(guī)則等功能模塊，底層封裝了基于hadoop、Spark實(shí)現(xiàn)的數(shù)據(jù)挖掘的算法，上層提供靈活的、可配置的輸入?yún)?shù)和輸入數(shù)據(jù)，用戶可以根據(jù)該平臺(tái)，快速完成針對(duì)大數(shù)據(jù)集的挖掘分析工