基于MapReduce和編程方式的ETL框架研究與應用.pdf_第1頁
已閱讀1頁，還剩68頁未讀， 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請進行舉報或認領

文檔簡介

1、隨著計算機及互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，許多企業(yè)內(nèi)部逐步實現(xiàn)了業(yè)務的計算機化管理，積累了大量的歷史業(yè)務數(shù)據(jù)，而且數(shù)據(jù)量還在快速增長。越來越多的企業(yè)使用數(shù)據(jù)倉庫技術(shù)對業(yè)務數(shù)據(jù)進行匯總、處理和分析，ETL過程是構(gòu)建數(shù)據(jù)倉庫的關鍵環(huán)節(jié)。ETL工具能否方便用戶靈活地實施ETL解決方案直接影響到數(shù)據(jù)倉庫解決方案能否順利實施，ETL處理的效率直接影響數(shù)據(jù)裝載的效率。針對該問題背景，本文主要研究工作如下:
　　 (1)分析MapReduce和ETL

2、目前的研究現(xiàn)狀，闡述了本文的研究意義，對維度數(shù)據(jù)ETL、事實數(shù)據(jù)ETL、ETL處理模型、漸變維度和MapReduce編程模型分別進行了深入分析與研究。
　　 (2)設計一個基于MapReduce和編程方式的ETL框架。首先，對ETL的整體架構(gòu)進行設計;其次，對維度數(shù)據(jù)ETL模塊和事實數(shù)據(jù)ETL模塊進行了詳細設計;最后，對維度數(shù)據(jù)的索引結(jié)構(gòu)進行了設計，優(yōu)化了MapReduce中數(shù)據(jù)塊的分配算法。
　　 (3)對Hive提供

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間，僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理，對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容，請與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論