面向應(yīng)用的GPU并行計算關(guān)鍵技術(shù)研究.pdf

1、隨著信息技術(shù)的進步，大規(guī)模科學(xué)與工程應(yīng)用對計算性能的需求不斷增加。由于功耗的限制，過去十年計算機技術(shù)的發(fā)展基本摒棄了通過提高處理器頻率來增加計算機性能的傳統(tǒng)模式，轉(zhuǎn)而朝著多核、眾核體系結(jié)構(gòu)方向發(fā)展。由于CPU的通用性，基于多核CPU的大規(guī)模計算機系統(tǒng)仍然面臨十分嚴峻的能耗問題。在這樣的背景下，專用加速部件獲得了學(xué)術(shù)界和產(chǎn)業(yè)界的廣泛關(guān)注。尤其是以GPU為代表的異構(gòu)處理器，以其優(yōu)異的能效比，極大的促進了高性能計算技術(shù)的發(fā)展。同時，基于CPU

2、-GPU架構(gòu)的異構(gòu)系統(tǒng)也已經(jīng)成為高性能超級計算機發(fā)展的主流方向之一，例如基于NVIDIA Kepler架構(gòu)的Titan計算機。雖然，GPU硬件技術(shù)已經(jīng)獲得了長足的發(fā)展，但是，GPU的硬件體系結(jié)構(gòu)和編程模型與傳統(tǒng)CPU存在很大的不同，與之匹配的并行軟件技術(shù)相對落后，實際應(yīng)用的效率和并行程序開發(fā)效率問題尤為突出。本課題面向特定的應(yīng)用領(lǐng)域，深入開展基于GPU以及CPU-GPU異構(gòu)系統(tǒng)的并行計算關(guān)鍵技術(shù)研究，涉及并行程序設(shè)計、并行編程模型、GP

3、U性能預(yù)測模型和不同多核、眾核處理器之間程序性能可移植性等問題。本文的主要研究工作和創(chuàng)新點如下：
　　1.提出了一個基于GPU架構(gòu)的高效并行視頻編碼框架，并在GPU上實現(xiàn)了一個完整的H.264視頻編碼器。本文通過循環(huán)劃分技術(shù)，將整個編碼器以幀為單位分為四個部分，分別是幀間預(yù)測，幀內(nèi)編碼，熵編碼和去塊濾波。這四個部分都被加載到GPU上并行加速，既可以開發(fā)每幀圖像潛在的并行性，也進一步開發(fā)了各個部分之間生產(chǎn)者-消費者局域性，避免了不必

4、要的CPU-GPU之間數(shù)據(jù)傳輸。本文使用CUDA編程語言，實現(xiàn)了一個面向GPU的完整H.264并行編碼器。針對計算密集型組件運動估計，本文提出了一個面向大規(guī)模并行體系結(jié)構(gòu)的可擴展并行算法（多分辨率多窗口幀間預(yù)測算法）。為了提高非規(guī)則算法的效率，本文提出了方向優(yōu)先的并行去塊濾波和基于分量的并行CAVLC算法，成功實現(xiàn)了大規(guī)模并行CAVLC編碼器，大大減少了編碼后傳回CPU的數(shù)據(jù)量。另外，本文還提出了一個多級并行幀內(nèi)編碼算法。實驗結(jié)果表明，

5、本文實現(xiàn)的基于GPU的H.264編碼器可以滿足30幀每秒(fps)高清實時編碼需求。
　　2.提出并實現(xiàn)了基于大規(guī)模CPU-GPU異構(gòu)系統(tǒng)的高效地質(zhì)沉降模擬解決方案。基于天河-1A超級計算機實現(xiàn)了三種全顯示雙巖沉降模擬方案：基于MPI的CPU-only實現(xiàn)、基于MPI+CUDA的GPU-only實現(xiàn)以及基于MPI+OpenMP+CUDA的CPU-GPU混合實現(xiàn)。采用基于OpenMP的CPU并行實現(xiàn)、基于CUDA的GPU并行實現(xiàn)和M

6、PI的節(jié)點間通信實現(xiàn)了GPU計算與CPU計算以及節(jié)點間通信的重疊。實驗結(jié)果表明，本文提出的異構(gòu)實現(xiàn)可以獲得很高的性能，滿足高分辨率地質(zhì)沉降模擬的需求，在1024個天河-1A計算節(jié)點上獲得了72.8 TFlops的計算性能，模擬分辨率達到了131072×131072。
　　3.提出了一個基于數(shù)據(jù)傳輸?shù)膕tencil計算GPU性能分析預(yù)測模型。為了理解、預(yù)測stencil計算在GPU上可以獲得的性能以及刻畫其性能瓶頸，本文對stenc

7、il計算在GPU上的各種優(yōu)化實現(xiàn)進行了量化分析，并從數(shù)據(jù)傳輸?shù)慕嵌忍岢隽艘粋€性能分析預(yù)測模型。基于三個并行粒度：一個CUDA線程、一個線程塊以及一組可以同時執(zhí)行的線程塊，本文分別對寄存器和SM片上存儲器、SM片上存儲器和L2 cache以及L2 cache和全局存儲器三個存儲層次之間的數(shù)據(jù)傳輸量進行建模。結(jié)合GPU在各個存儲器上可以獲得的實際帶寬和數(shù)據(jù)傳輸量，進一步預(yù)測程序的執(zhí)行時間。實驗結(jié)果表明，本文提出的基于數(shù)據(jù)傳輸?shù)男阅茴A(yù)測模型對

8、于基本stencil實現(xiàn)在GPU上執(zhí)行時間的預(yù)測錯誤率為6.9％，而對于經(jīng)過優(yōu)化實現(xiàn)的stencil程序的執(zhí)行時間預(yù)測錯誤率為9.5%。
　　4.研究了OpenCL程序在多核CPU和GPU之間的性能可移植性問題。雖然OpenCL編程使得同一個程序可以在不同硬件平臺之間實現(xiàn)代碼可移植，但是其性能可移植性卻遠遠不能滿足要求。本文從特定的應(yīng)用出發(fā)，研究基于OpenCL的stencil計算在CPU、GPU之間的性能可移植性問題。通過在循環(huán)