基于Spark平臺推薦系統(tǒng)研究.pdf

1、現(xiàn)代互聯(lián)網的高速發(fā)展產生了大量富有價值的互聯(lián)網信息，如何從海量的數(shù)據中挖掘出有用的信息是具有重大意義的課題。大數(shù)據平臺的研究與發(fā)展就是在這一背景下興起。Hadoop的誕生使人們關注Map Red uce這一計算模式的研究，而Spark通過引入RDD數(shù)據模型及基于內存的運算模式，使其能很好地適應大數(shù)據的數(shù)據挖掘這一場景，并且在迭代計算方面優(yōu)于Hadoop，迅速成為了廣大企業(yè)、學者的研究重點。推薦系統(tǒng)是一種從海量用戶行為數(shù)據中挖掘有用信息并

2、提供給用戶的應用，推薦系統(tǒng)中推薦算法的實現(xiàn)是數(shù)據挖掘的重要部分?；趥鹘y(tǒng)計算機的推薦算法實現(xiàn)過程需要耗費大量的時間，不能滿足當今的商業(yè)需求，而結合分布式計算平臺的并行化實現(xiàn)能有效解決這一問題，并且推薦算法實現(xiàn)過程中存在多次迭代計算，Spark的出現(xiàn)正是迎合了推薦算法并行化實現(xiàn)這一需求。
　　鑒于目前國內外基于Spark平臺的各類應用的發(fā)展趨勢，本文將基于Spark平臺對推薦算法相關技術進行研究，主要包括以下兩個方面:
　　(

3、1)基于Spark平臺推薦算法并行化研究。在對Spark平臺及推薦系統(tǒng)相關技術研究基礎上，首先對基于Spark平臺推薦算法并行化實現(xiàn)過程進行了設計，詳細分析了算法在提交后集群節(jié)點的作用及任務的分配情況;其次對基于Spark平臺推薦算法并行化進行實現(xiàn)，主要實現(xiàn)了基于用戶的協(xié)同過濾、基于物品的協(xié)同過濾及基于ALS模型推薦算法，給出了詳細的并行化實現(xiàn)過程，并加以分析;最后以實例的形式詳細分析了Spark存算法實現(xiàn)過程中，如何進行數(shù)據及任務的并

4、行化。
　　(2)基于Spark平臺并行化實現(xiàn)的優(yōu)化。優(yōu)化主要包括兩個方面:平臺的優(yōu)化及推薦算法的優(yōu)化。在推薦算法并行化實現(xiàn)過程中，發(fā)現(xiàn)Spark集群節(jié)點異構情況下，存在任務調度不合理問題，提出異構Spark集群自適應任務調度策略HSATS?；卩徲蛲扑]算法優(yōu)化方面，提出對用戶或物品的隱含標簽屬性進行向量化，并最終與相似度計算進行融合。基于ALS模型推薦算法方面，設計了一種新的損失函數(shù)，將模型訓練前的用戶及物品相似性信息融合進去。