基于MapReduce的海量點擊流信息挖掘研究.pdf

1、隨著互聯(lián)網(wǎng)與電子商務的快速發(fā)展,網(wǎng)站產(chǎn)生的點擊、商品、交易等數(shù)據(jù)呈現(xiàn)海量數(shù)據(jù)式增長。淘寶網(wǎng)(taobao.com)中的頁面每天點擊超過2億次以上,商品成交超過5000萬次/天。巨大的訪問量帶來了巨大的瀏覽記錄與交易記錄,挖掘這些記錄中蘊含的用戶信息成為時下網(wǎng)站建設者們最迫切的需求。點擊流是用戶在一個Session會話內(nèi)點擊URL鏈接而被記錄的訪問路徑,挖掘點擊流數(shù)據(jù)可以發(fā)現(xiàn)商品頻繁點擊序列,并嘗試從點擊流的角度優(yōu)化個性化商品推薦算法。<

2、br>　　MapReduce計算模式是目前主流較為穩(wěn)定的分布式計算平臺,本文充分利用MapReduce在矩陣運算與聚合運算上的優(yōu)勢,改進傳統(tǒng)挖掘算法在分布式環(huán)境下的數(shù)據(jù)共享、中間知識集吸收等問題,從而解決海量數(shù)據(jù)挖掘瓶頸,獲得挖掘效率的提升。本文的主要工作和創(chuàng)新點如下:
　　首先,本文使用HDFS構(gòu)建的數(shù)據(jù)倉庫+MapReduce實現(xiàn)開源分布式數(shù)據(jù)挖掘框架,采用自定義文本方式存儲海量點擊數(shù)據(jù),使用 MapReduce計算模式實現(xiàn)數(shù)

3、據(jù)集的投影、選擇、并、交、叉、連接等數(shù)據(jù)集操作,進而實現(xiàn)在HDFS中進行數(shù)據(jù)的清洗與預處理操作。
　　其次,本文提出在MapReduce數(shù)據(jù)操作基礎上使用點擊樹來還原一個完整Session會話內(nèi)的用戶點擊路徑,真正反映用戶最原始的點擊動機。在這基礎之上優(yōu)化原始BIDE頻繁序列模式挖掘算法,消除前綴樹生長過程中的遞歸方式,使挖掘任務在2個MapReduce任務內(nèi)就能完成。
　　最后,本文嘗試從點擊流數(shù)據(jù)、用戶長期偏好數(shù)據(jù)多維度