基于光網(wǎng)絡的分布式計算系統(tǒng)中任務與通信的聯(lián)合調(diào)度研究.pdf

1、分布式計算將分散在不同地方的計算、存儲等資源集結(jié)起來,協(xié)同合作,從而獲得可觀的計算能力,以便用于實現(xiàn)復雜的科學計算任務。很多高級應用不但是計算密集型,更體現(xiàn)出數(shù)據(jù)密集型,即計算任務執(zhí)行期間將會產(chǎn)生大量數(shù)據(jù)(從GB到TB甚至PB級),并在多個計算資源間進行大塊數(shù)據(jù)傳輸。這就要求網(wǎng)絡能夠提供大帶寬、低延遲的數(shù)據(jù)傳輸能力。傳統(tǒng)的IP網(wǎng)絡顯然無法滿足這種較高的OoS要求,因此研究人員將目光轉(zhuǎn)向光網(wǎng)絡,期望能夠直接在光網(wǎng)絡上構(gòu)筑分布式計算系統(tǒng)以滿

2、足數(shù)據(jù)密集型的分布式科學計算應用。
　　 為了實現(xiàn)分布式計算,需要將復雜的、大型的計算任務分解為若干小任務,并將其調(diào)度到可用計算資源上,同時實現(xiàn)某種優(yōu)化目標。分布式環(huán)境下的任務調(diào)度已有大量研究,但大都基于分組交換網(wǎng)絡(如IP網(wǎng)絡)。在數(shù)據(jù)量交換不多的情況下,很多研究直接將底層網(wǎng)絡假設為任意節(jié)點對間可隨時通信的全互聯(lián)理想網(wǎng)絡模型。當網(wǎng)絡系統(tǒng)替換為光網(wǎng)絡時,通信機制變?yōu)榫€路交換。由于傳輸數(shù)據(jù)之前需要事先建立固定帶寬的光路連接,并且接

3、入端口只具有單可達性,這就會使通信建立存在一定的阻塞概率。傳統(tǒng)的任務調(diào)度模型無法直接應用于光網(wǎng)絡互聯(lián)場景,因此在將任務分配到計算資源上的同時,需要協(xié)同考慮資源間的光路建立。
　　 本論文研究任務分配與光路建立的聯(lián)合調(diào)度問題,該問題之前鮮有研究。我們首先研究了在專有光網(wǎng)絡下的聯(lián)合調(diào)度模型和算法以及減少通信競爭沖突的優(yōu)化策略,然后研究了在公共光網(wǎng)絡下基于動態(tài)共享光虛擬專用網(wǎng)(OVPN,OpticalVirtual Private N

4、etwork)的聯(lián)合調(diào)度問題,最后設計并實現(xiàn)了面向分布式計算應用的跨域OVPN服務接口體系。
　　 第一章緒論首先介紹了基于光網(wǎng)絡互聯(lián)的分布式計算的發(fā)展背景,然后分別綜述了分布式計算中的任務調(diào)度和光網(wǎng)絡中的光路調(diào)度的研究現(xiàn)狀,并分析了研究聯(lián)合調(diào)度的必要性。
　　 第二章研究了聯(lián)合調(diào)度模型和算法。大規(guī)模的分布式科學計算應用大都由一系列具有相互依存關(guān)系的任務組成,并按照某種工作流方式實現(xiàn)最終計算任務。這種工作流一般采用有向無

5、圈圖(DAG:Directed Acyclic Graph)來統(tǒng)一描述。因此我們研究的聯(lián)合調(diào)度可抽象為光網(wǎng)絡感知的DAG調(diào)度問題。列表調(diào)度算法是DAG調(diào)度中最常用的啟發(fā)式算法,為此我們根據(jù)聯(lián)合調(diào)度模型對列表調(diào)度算法進行了擴展,在將DAG中的任務節(jié)點調(diào)度到計算資源上的同時,協(xié)同考慮將DAG邊調(diào)度到網(wǎng)絡的鏈路上,從而實現(xiàn)了任務與光路的聯(lián)合調(diào)度。
　　 第三章基于擴展列表調(diào)度算法分別從路由策略和計算資源選擇策略兩個方面研究了如何減少網(wǎng)

6、絡資源沖突的優(yōu)化措施。對于路由策略,我們提出了一個自適應路由算法,在調(diào)度某條光路時能夠繞過擁塞鏈路并選取一條最先開始的最短路由；對于計算資源選擇策略,我們的做法是盡量讓后繼任務節(jié)點調(diào)度到離前繼任務節(jié)點所在資源較近的計算資源上,其思想是盡量減少光路的建立跳數(shù),從而減少光路對資源的占用和產(chǎn)生沖突的可能性。仿真結(jié)果表明兩種策略各有優(yōu)勢:自適應路由策略對于減小調(diào)度長度效果明顯,而資源選擇策略有利于提高任務調(diào)度對網(wǎng)絡資源的使用使用效率。當二者結(jié)合

7、使用時,優(yōu)勢互補,可獲得最佳調(diào)度結(jié)果。
　　 第四章研究了在公共光網(wǎng)絡上如何實現(xiàn)聯(lián)合調(diào)度的問題。由于在公共光網(wǎng)絡場景下運營商考慮到商業(yè)利益,不會向計算用戶提供全網(wǎng)的資源信息,因此無法實現(xiàn)基于全網(wǎng)拓撲信息的聯(lián)合調(diào)度,為此我們提出采用光虛擬專用網(wǎng)(OVPN)方式解決這一問題。OVPN資源可以是專有的或是共享的。對于專有OVPN可以直接使用之前提到的靜態(tài)調(diào)度算法,但是會占用過多的網(wǎng)絡資源。動態(tài)共享OVPN可以提高網(wǎng)絡資源使用效率,但引

8、入了網(wǎng)絡資源的動態(tài)變化,為此我們提出了一種低開銷的基于靜態(tài)調(diào)度的動態(tài)重調(diào)度機制。仿真實驗顯示,在中等網(wǎng)絡負載以下,基于動態(tài)共享OVPN的重調(diào)度機制可以獲得接近于基于全網(wǎng)的靜態(tài)聯(lián)合調(diào)度的調(diào)度效果,并具有現(xiàn)實可行性。
　　 第五章研究了在多域光網(wǎng)絡環(huán)境下如何為分布式計算應用實現(xiàn)跨域OVPN服務的接口體系。通過提供跨域OVPN服務,可以為計算用戶屏蔽底層多域環(huán)境和復雜的域間操作,使之感覺仍然為單域環(huán)境。我們分析了面向分布式計算的跨域O

9、VPN服務新的應用需求,并提出了一個層級式跨域OVPN服務平面體系構(gòu)架。與其他OVPN服務平面實現(xiàn)方式不同,我們基于控制平面中的流量工程數(shù)據(jù)庫(TrafficEngineering Database,TED)實現(xiàn)OVPN資源的分割和虛擬化；通過對OVPN資源及其操作封裝并實例化為對象實現(xiàn)OVPN管理控制的劃分和隔離。我們基于webservice實現(xiàn)了跨域OVPN服務的調(diào)用接口,調(diào)度器可以直接編程實現(xiàn)OVPN資源的創(chuàng)建、信息獲取,光路拆建