基于Hadoop的分布式文件系統(tǒng)技術(shù)分析及應(yīng)用.pdf

1、隨著互聯(lián)網(wǎng)（主要為移動(dòng)互聯(lián)網(wǎng)）和新興物聯(lián)網(wǎng)的高速發(fā)展，我們生活在一個(gè)數(shù)據(jù)大爆炸時(shí)代。根據(jù)IDC估計(jì)，2011年，全球產(chǎn)生和創(chuàng)建的數(shù)據(jù)總量為1.8ZB，且全球的信息總量每過兩年就會(huì)增長(zhǎng)一倍。產(chǎn)生這么多的數(shù)據(jù)，自然而然就會(huì)給我們?cè)跀?shù)據(jù)存儲(chǔ)和管理上帶來巨大的挑戰(zhàn)。IDC的研究報(bào)告還指出，全球數(shù)據(jù)存儲(chǔ)容量的增長(zhǎng)速度已遠(yuǎn)遠(yuǎn)跟不上的數(shù)據(jù)的增長(zhǎng)速度了。
　　 這么多的數(shù)據(jù)存儲(chǔ)在一個(gè)設(shè)備上在當(dāng)今的存儲(chǔ)技術(shù)下是很難辦到的，并且存儲(chǔ)在一個(gè)設(shè)備上，會(huì)

2、對(duì)以后數(shù)據(jù)的分析帶來很大的困難。把數(shù)據(jù)存儲(chǔ)在多個(gè)設(shè)備上，是我們現(xiàn)今存儲(chǔ)海量數(shù)據(jù)的首選。既然存儲(chǔ)在多個(gè)存儲(chǔ)設(shè)備上，那么就需要我們有相應(yīng)的分布式文件系統(tǒng)來管理這些存儲(chǔ)設(shè)備，使它們能夠協(xié)同工作，并可以向用戶提供更好的數(shù)據(jù)訪問性能。
　　 Hadoop分布式文件系統(tǒng)(HDFS)，一個(gè)類似Google的分布式文件系統(tǒng)(GFS)的出現(xiàn)是可以解決海量數(shù)據(jù)存儲(chǔ)需求的一個(gè)很好應(yīng)用。首先它是一個(gè)開源免費(fèi)的應(yīng)用并且在很多節(jié)點(diǎn)上已經(jīng)部署，具有不凡的表現(xiàn)

3、。其次，HDFS擁有高容錯(cuò)性、高可靠性、高擴(kuò)展性和高吞吐率等特征，這些特征都為海量數(shù)據(jù)提供了安全存儲(chǔ)的環(huán)境和對(duì)超大數(shù)據(jù)集(Large Data Set)的應(yīng)用處理帶來了很大便利。它還可以與MapReduce編程模型很好的結(jié)合，并且能夠?yàn)閼?yīng)用程序提供高吞吐量的數(shù)據(jù)訪問。
　　 在本論文中，首先以時(shí)間為軸，介紹了每個(gè)時(shí)代典型的分布式文件系統(tǒng)及其特點(diǎn)，然后對(duì)HDFS的體系架構(gòu)和運(yùn)行原理進(jìn)行了詳細(xì)分析。通過對(duì)HDFS高可用性的研究，結(jié)合

4、了BackupNode和AvatarNode這兩種方案的優(yōu)點(diǎn)設(shè)計(jì)出了一個(gè)高可用的分布式文件系統(tǒng)，我們稱之為HADFS。該文件系統(tǒng)不僅實(shí)現(xiàn)了NameNode的熱備節(jié)點(diǎn)，還可以在當(dāng)NameNode節(jié)點(diǎn)發(fā)生故障時(shí)，能夠自動(dòng)切換到備用節(jié)點(diǎn)，而用戶卻察覺不到節(jié)點(diǎn)的切換。最后，我們以HDFS為基礎(chǔ)存儲(chǔ)層設(shè)計(jì)出了一個(gè)可以實(shí)現(xiàn)文件上傳、下載、新建文件夾和刪除文件等功能的云盤系統(tǒng)。該系統(tǒng)采用了SSH框架設(shè)計(jì)，并在與HDFS傳輸數(shù)據(jù)的時(shí)候采用了webdav