海量數(shù)據(jù)分析處理方法的研究.pdf

1、隨著信息技術(shù)的發(fā)展,很多領(lǐng)域?qū)π畔⑾到y(tǒng)的建設(shè)處在轉(zhuǎn)型階段。以金融領(lǐng)域?yàn)槔?后續(xù)IT建設(shè)的重心逐步從建設(shè)“核心業(yè)務(wù)交易系統(tǒng)”進(jìn)入到構(gòu)建“以客戶為中心、以風(fēng)險(xiǎn)控制和盈利分析為目標(biāo)的信息管理系統(tǒng)”的發(fā)展階段。這種轉(zhuǎn)型需要對(duì)原有業(yè)務(wù)系統(tǒng)的數(shù)據(jù)進(jìn)行統(tǒng)一分析,實(shí)現(xiàn)數(shù)據(jù)跨部門、跨時(shí)間和跨平臺(tái)共享。為此海量數(shù)據(jù)分析處理需求強(qiáng)烈。MapReduce是由Google公司首先提出的,一種能在大型計(jì)算機(jī)集群上并發(fā)地處理海量數(shù)據(jù)的框架模型。使用者通過指定一個(gè)Ma

2、p函數(shù)將輸入數(shù)據(jù)轉(zhuǎn)化成為一系列中間鍵-值對(duì),然后由一個(gè)自定義的reduce函數(shù)將具有相同鍵的值聚集起來,將結(jié)果輸出。很多現(xiàn)實(shí)世界對(duì)海量數(shù)據(jù)的處理,都可以用這種模型來表示。并行數(shù)據(jù)庫作為一種高性能的數(shù)據(jù)庫系統(tǒng),是并行技術(shù)和數(shù)據(jù)庫技術(shù)結(jié)合的產(chǎn)物,它大大提高了關(guān)系數(shù)據(jù)庫中對(duì)數(shù)據(jù)的處理效率。常見的并行數(shù)據(jù)庫根據(jù)并行架構(gòu)的不同,可以分為共性內(nèi)存、共性磁盤、無共享的三種架構(gòu)方式。本文在分析Mapreduce和并行數(shù)據(jù)庫的基礎(chǔ)上,提出了一種并發(fā)處理海

3、量數(shù)據(jù)的更通用、更可擴(kuò)展的平臺(tái)大概架構(gòu)。并對(duì)相關(guān)的產(chǎn)品進(jìn)行了詳細(xì)的測試。首先,我們分析了MapReduce和并行數(shù)據(jù)庫對(duì)海量數(shù)據(jù)處理的并行方式,具體的了解了兩種方法的發(fā)展以及實(shí)現(xiàn)思路。接著,我們從多個(gè)方面對(duì)兩者進(jìn)行了詳細(xì)的比較,得到了它們的優(yōu)缺點(diǎn),為后續(xù)的設(shè)計(jì)打下了基礎(chǔ)。接著我們提出了三種MapReduce和SQL結(jié)合的方式,分別是MapReduce引擎增加SQL層、MapReduce調(diào)度SQL語句、SQL語句調(diào)用MapReduce,通

4、過三種結(jié)合方式的比較,我們認(rèn)為SQL語句調(diào)用MapReduce的方法是最好的一種。然后,我們提出了將并行數(shù)據(jù)庫和MapReduce結(jié)合的大概設(shè)計(jì)框架,這種架構(gòu)采用客戶端、主控節(jié)點(diǎn)、分支節(jié)點(diǎn)的三點(diǎn)式架構(gòu)。其中,主控節(jié)點(diǎn)負(fù)責(zé)收集與處理其他節(jié)點(diǎn)的各種信息；分支節(jié)點(diǎn)負(fù)責(zé)任務(wù)的具體執(zhí)行。接著,我們通過MapReduce的自定義函數(shù)對(duì)SQL進(jìn)行了擴(kuò)展,提出了將MapReduce嵌入到SQL語句里面的方式和具體的執(zhí)行方式。接著,我們描述了數(shù)據(jù)分布策略