面向異構(gòu)系統(tǒng)的PGAS模型研究與實(shí)現(xiàn).pdf

1、科學(xué)與工程應(yīng)用對(duì)計(jì)算性能要求的不斷增加使得機(jī)群系統(tǒng)得到了迅速發(fā)展，但由于功耗和散熱等因素，基于 CPU的同構(gòu)機(jī)群系統(tǒng)可拓展性已成為發(fā)展瓶頸。而圖形處理單元（GPU）、眾核協(xié)處理器（MIC）等其他加速單元在處理高度并行性負(fù)載的情況下可以提供比CPU更強(qiáng)的浮點(diǎn)計(jì)算能力，且所需能耗更低，因此CPU協(xié)同GPU或MIC完成計(jì)算任務(wù)的異構(gòu)計(jì)算已成為發(fā)展主流。然而現(xiàn)有的異構(gòu)編程模型缺乏為編程人員提供一致的編程環(huán)境，編程人員必須區(qū)分CPU與加速器并顯式

2、的指定數(shù)據(jù)在不同設(shè)備之間的傳遞情況，一定程度上增加了異構(gòu)編程難度。
　　PGAS編程模型旨在為分布式內(nèi)存系統(tǒng)提供一個(gè)邏輯上共享的尋址空間，允許編程人員以全局視角操作數(shù)據(jù)從而簡(jiǎn)化編程難度。但現(xiàn)有的 PGAS模型主要面向同構(gòu)系統(tǒng)，且缺少針對(duì)CPU+MIC結(jié)構(gòu)的實(shí)現(xiàn)。本文面向異構(gòu)計(jì)算不斷發(fā)展的趨勢(shì)，研究在異構(gòu)系統(tǒng)中對(duì)PGAS編程模型的拓展與實(shí)現(xiàn)方式，通過(guò)異構(gòu)PGAS模型為編程人員提供一致的編程環(huán)境，簡(jiǎn)化異構(gòu)編程難度。論文的主要工作和貢獻(xiàn)

3、如下：
　　首先，面向異構(gòu)系統(tǒng)實(shí)現(xiàn)對(duì)全局?jǐn)?shù)組（GA）模型的拓展---CoGA。CoGA模型基于CPU+MIC系統(tǒng)上的SCIF接口實(shí)現(xiàn)全局?jǐn)?shù)組操作，采用為全局?jǐn)?shù)組分配固定內(nèi)存的方式提高系統(tǒng)效率并保證數(shù)據(jù)傳輸?shù)目煽啃?，通過(guò)SCIF遠(yuǎn)程內(nèi)存訪問(wèn)實(shí)現(xiàn)CPU與MIC間的高效數(shù)據(jù)傳輸。CoGA模型結(jié)合異構(gòu)系統(tǒng)實(shí)現(xiàn)的API接口能夠?yàn)榫幊倘藛T提供一致的編程環(huán)境，允許編程人員以全局視角操作物理上分布于 CPU和加速單元間的數(shù)據(jù)，隱藏不同計(jì)算設(shè)備之間

4、的內(nèi)存分配和數(shù)據(jù)傳輸細(xì)節(jié)，進(jìn)而簡(jiǎn)化異構(gòu)編程難度。
　　其次，結(jié)合異構(gòu)系統(tǒng)特點(diǎn)優(yōu)化數(shù)據(jù)傳輸性能。針對(duì)現(xiàn)有 Offload編程模式中MIC之間無(wú)法直接進(jìn)行數(shù)據(jù)傳輸導(dǎo)致通訊操作較為復(fù)雜的問(wèn)題，CoGA模型通過(guò)SCIF接口建立MIC設(shè)備間的直接連接關(guān)系，允許用戶通過(guò)CoGA接口直接在MIC間進(jìn)行數(shù)據(jù)傳輸，降低數(shù)據(jù)傳輸延遲并簡(jiǎn)化通信操作。針對(duì)CPU+MIC協(xié)同計(jì)算過(guò)程中，CPU與MIC間可能需要頻繁進(jìn)行小數(shù)據(jù)通信的情況，CoGA模型基于SC

5、IF消息傳遞層實(shí)現(xiàn)小消息傳遞接口，實(shí)現(xiàn)CPU與MIC間高效的小數(shù)據(jù)傳遞，降低通信延遲。此外，為便于用戶通過(guò)指定數(shù)組分布實(shí)現(xiàn)CPU與MIC的任務(wù)劃分，CoGA模型提供接口允許進(jìn)程直接獲取全局?jǐn)?shù)組本地部分的指針，避免冗余數(shù)據(jù)拷貝。
　　最后，通過(guò)基準(zhǔn)性能Benchmark和實(shí)際應(yīng)用測(cè)試CoGA模型整體性能。根據(jù)CPU-MIC數(shù)據(jù)傳輸帶寬和延遲， MIC-MIC通信延遲以及矩陣乘應(yīng)用的測(cè)試結(jié)果證明了CoGA模型簡(jiǎn)化編程并優(yōu)化數(shù)據(jù)傳輸性能