Hadoop平臺下作業(yè)調(diào)度方法研究.pdf

1、云計算在網(wǎng)頁搜索、數(shù)據(jù)挖掘等大規(guī)模數(shù)據(jù)處理方面正變得越來越重要，Hadoop作為一個開源的云計算平臺也得到了廣泛的應(yīng)用。作業(yè)調(diào)度算法是Hadoop平臺的核心，良好的作業(yè)調(diào)度算法能夠提高計算的速度與對計算資源的利用率。
　　論文首先對Hadoop平臺的原理與結(jié)構(gòu)進行了詳細的分析;然后介紹了Hadoop平臺自帶的兩個調(diào)度算法，F(xiàn)IFO調(diào)度算法和公平調(diào)度算法;為了對調(diào)度算法進行定量的比較，設(shè)計了集群均衡性以及作業(yè)執(zhí)行公平性的定量計算方法

2、;最后根據(jù)提出的方法，通過實驗比較了FIFO調(diào)度算法以及公平調(diào)度算法在異構(gòu)集群中的實際表現(xiàn)，并分析了兩種調(diào)度算法的不足。
　　結(jié)合異構(gòu)集群的特點與公平調(diào)度算法良好的作業(yè)公平性，論文中設(shè)計了基于集群狀態(tài)的實時作業(yè)調(diào)度算法。該算法保證作業(yè)按照大小及優(yōu)先級獲得計算資源，且能夠根據(jù)每個節(jié)點負載的變化動態(tài)調(diào)整該節(jié)點的資源數(shù)量，以適應(yīng)異構(gòu)集群的執(zhí)行環(huán)境。論文中給出了應(yīng)用該算法后的實驗結(jié)果，與FIFO調(diào)度算法以及公平調(diào)度算法的對比實驗結(jié)果表明，