面向異步劃分地址空間編程模型的集群資源管理與優(yōu)化技術(shù)的研究.pdf

1、異步劃分地址空間編程模型(APGAS)是并行編程模型的一次重要革新。目前，集群環(huán)境呈現(xiàn)出以下幾個(gè)特點(diǎn):(1)高并行性，集群中的計(jì)算節(jié)點(diǎn)成千上萬(wàn)，可以利用的并行性異常豐富;(2)內(nèi)存訪問(wèn)性能層次化，集群中單節(jié)點(diǎn)多為NUMA結(jié)構(gòu)，并可能存在協(xié)處理器;節(jié)點(diǎn)之間通過(guò)網(wǎng)絡(luò)互聯(lián)。這種結(jié)構(gòu)導(dǎo)致了集群中內(nèi)訪訪問(wèn)性能的層次化;(3)異構(gòu)性，集群中存在著性能不同、體系結(jié)構(gòu)不同的各種計(jì)算資源。這些特點(diǎn)對(duì)并行編程模型帶來(lái)了很大的挑戰(zhàn)。為了提高程序員的編程效率，

2、應(yīng)對(duì)集群環(huán)境變化對(duì)編程模型帶來(lái)的挑戰(zhàn)，APGAS模型應(yīng)運(yùn)而生。
　　AGPAS模型已經(jīng)在學(xué)術(shù)界受到廣泛關(guān)注，而在工業(yè)界，APGAS模型在IBM公司內(nèi)部也已被廣泛應(yīng)用，IBM公司的許多大型應(yīng)用都是基于該模型而實(shí)現(xiàn)。當(dāng)前APGAS模型的一個(gè)重要缺陷是其實(shí)用性較弱，尤其是其集群資源管理與優(yōu)化能力，導(dǎo)致其無(wú)法在工業(yè)界中被廣泛應(yīng)用。與該能力相關(guān)的主要問(wèn)題包括:(1) APGAS程序的可靠性問(wèn)題;(2) APGAS模型數(shù)據(jù)的任務(wù)親和性引發(fā)的資

3、源管理問(wèn)題;(3)性能異構(gòu)集群環(huán)境下引發(fā)的負(fù)載均衡問(wèn)題;(4)體系結(jié)構(gòu)異構(gòu)集群環(huán)境下模型的性能問(wèn)題。由于發(fā)展時(shí)間較短，目前學(xué)術(shù)界和工業(yè)界對(duì)APGAS的研究多針對(duì)其性能、可移植性、可編程性以及其應(yīng)用領(lǐng)域，而對(duì)上述集群資源管理與優(yōu)化相關(guān)問(wèn)題的研究較少或基本沒(méi)有。
　　本文以基于APGAS模型的X10并行編程語(yǔ)言為例，在充分分析APGAS模型對(duì)集群資源管理與優(yōu)化相關(guān)問(wèn)題需求的基礎(chǔ)之上，提出了一個(gè)系統(tǒng)的解決方案，以提高APGAS模型的集群

4、資源管理與優(yōu)化能力。本文針對(duì)APGAS程序的可靠性，APGAS模型對(duì)計(jì)算資源管理的支持，對(duì)全局負(fù)載均衡能力的支持，以及對(duì)MIC異構(gòu)計(jì)算資源使用的支持這幾個(gè)方面進(jìn)行研究，以期提高APGAS模型的實(shí)用性。這幾個(gè)問(wèn)題的研究在APGAS模型的相關(guān)研究中都屬首次。該研究致力于提供一套實(shí)際、有效、透明以及高性能的解決方案，使得現(xiàn)有APGAS程序可以方便地利用該研究成果。本文提出的方案充分考慮了APGAS模型自身的特性，因而使得對(duì)程序性能的影響降到最

5、低和對(duì)資源的利用率最高。并且，該方案盡可能不增加程序員的額外負(fù)擔(dān)，維持了利用APGAS模型編寫(xiě)并行程序的高生產(chǎn)效率。
　　提出了基于APGAS編程模型的并行程序可靠性問(wèn)題的高效解決方案，設(shè)計(jì)并實(shí)現(xiàn)了X10-FT系統(tǒng)來(lái)提高APGAS應(yīng)用程序的可靠性。X10-FT系統(tǒng)在X10語(yǔ)言系統(tǒng)中引入了經(jīng)典的檢查點(diǎn)(Checkpoint)機(jī)制，并結(jié)合APGAS的特性與一些成熟的分布式系統(tǒng)中的技術(shù)，例如Paxos協(xié)議和分布式文件系統(tǒng)，從而使得X10

6、應(yīng)用程序具有很高的容錯(cuò)能力。X10-FT系統(tǒng)中基本沒(méi)有單點(diǎn)故障點(diǎn)(Single Point Failure)，并且對(duì)X10應(yīng)用程序用戶(hù)透明。詳細(xì)的測(cè)試表明，利用X10-FT系統(tǒng)，各類(lèi)X10應(yīng)用程序都可以獲得較好的容錯(cuò)能力，并且因?yàn)槿蒎e(cuò)引入的性能損失也在可以接受的范圍之內(nèi)（平均性能損失小于20％）。
　　提出了APGAS程序中計(jì)算單元遷移的技術(shù)，以支持集群的資源管理與優(yōu)化功能，以及APGAS程序的全局負(fù)載均衡。設(shè)計(jì)并實(shí)現(xiàn)了X10-P

7、M系統(tǒng)以提高APGAS程序的資源管理與優(yōu)化能力。X10-PM系統(tǒng)的設(shè)計(jì)充分考慮了APGAS模型的特點(diǎn)，同樣也對(duì)X10程序員透明。在X10-PM編譯器和運(yùn)行時(shí)的幫助下，無(wú)需程序員的干涉，X10應(yīng)用程序就可以支持動(dòng)態(tài)遷移。X10-PM編譯器通過(guò)對(duì)X10程序源代碼的靜態(tài)分析就可以自動(dòng)找出程序在執(zhí)行過(guò)程中目標(biāo)計(jì)算單元遷移的最優(yōu)時(shí)間點(diǎn)。在這些點(diǎn)遷移具有最小的性能開(kāi)銷(xiāo)，并能保證遷移前后X10程序全局狀態(tài)的一致性。詳細(xì)的測(cè)試表明，當(dāng)前的X10-PM系

8、統(tǒng)最少只需要4秒就可以成功地將一個(gè)APGAS基本計(jì)算單元在集群上不同計(jì)算節(jié)點(diǎn)之間遷移，從而有效地支持了APGAS程序?qū)嘿Y源管理與優(yōu)化以及全局負(fù)載均衡的需求。
　　對(duì)在APGAS模型下如何有效地利用MIC架構(gòu)計(jì)算資源對(duì)程序進(jìn)行加速做出了研究，提出了APGAS模型下MIC架構(gòu)處理器的編程范式，并給出了一些關(guān)鍵參數(shù)的調(diào)優(yōu)原則，從而使得APGAS程序員可以方便地利用MIC計(jì)算資源對(duì)程序進(jìn)行加速。該編程范式充分考慮了APGAS模型的特點(diǎn)

9、以及MIC架構(gòu)處理器的特性，有效地發(fā)揮了各自的優(yōu)勢(shì)，并原生支持MIC架構(gòu)處理器的Offload模式以及Native模式。另外，該編程范式有良好的向后兼容性，使用該范式現(xiàn)有應(yīng)用程序代碼只需要做少量改動(dòng)就可以使用MIC計(jì)算資源進(jìn)行加速。測(cè)試結(jié)果表明，使用此編程范式大部分應(yīng)用程序都可以利用MIC計(jì)算資源獲得較好的性能提升。在我們的實(shí)驗(yàn)平臺(tái)上，在使用單塊MIC卡的情況下大部分程序都可以獲得一倍左右的性能加速，而一些具有高并發(fā)特性的應(yīng)用程序在使用