基于棧的GPGPU調(diào)度器設(shè)計研究.pdf

1、GPGPU的主要目標(biāo)是利用GPU強大的并行計算能力進行通用目的的計算。為了支持通用計算，GPU的結(jié)構(gòu)也開始針對通用計算優(yōu)化，但GPU固有的SIMD工作方式依然是限制其性能發(fā)揮的巨大障礙。其主要的問題是SIMD及其類似結(jié)構(gòu)所面臨的控制分離和存儲分離問題。而目前在控制分離上的研究往往沒有考慮其對存儲系統(tǒng)造成的影響，從而可能導(dǎo)致其性能不穩(wěn)定，甚至出現(xiàn)性能下降。
　　 本文總結(jié)了GPGPU線程調(diào)度的研究現(xiàn)狀，指出了其中存在的問題。其中，

2、PDOM機制不能調(diào)度其所有分支路徑；DWS的分支機制雖然能調(diào)度所有的分支路徑卻存在則由于缺少子恢復(fù)點信息而面臨warp過度細分的問題。針對PDOM機制和DWS機制的優(yōu)缺點，本文提出了一種子恢復(fù)點感知的混合棧式機制，該棧式機制通過增加葉子節(jié)點表和附加的數(shù)據(jù)通道。該混合棧式機制能對任意路徑的節(jié)點進行正常的PDOM機制的恢復(fù)操作，且具備DWS機制的所有分支路徑的調(diào)度能力，在這基礎(chǔ)上還能防止DWS過度細分，具備了更強的調(diào)度靈活性。
　　

3、 為了充分發(fā)揮本文混合棧式機制的延遲覆蓋潛力，本文通過分析發(fā)現(xiàn)，如果能讓一部分warp先于其他warp先行執(zhí)行，就能讓后續(xù)的warp利用其計算周期覆蓋前面先跑warp的計算周期，強化GPGPU的延遲覆蓋能力。由此出發(fā)本文提出了一種基于窗口的調(diào)度機制，該機制通過引入調(diào)度窗口和等待隊列，讓調(diào)度窗口中的warp先于等待隊列中的warp先運行，并在調(diào)度窗口內(nèi)的warp遇到長周期存儲訪問時切換warp，并通過先行發(fā)射混合棧式機制中存在存儲指令的分

4、支來進一步強化存儲延遲覆蓋能力。本文對調(diào)度器窗口的大小、子warp調(diào)度優(yōu)先級以及存儲節(jié)流等調(diào)度策略和實現(xiàn)細節(jié)進行了討論。
　　 本文通過GPGPU-SIM模擬器對該棧式機制及基于窗口的調(diào)度算法進行了驗證。通過對12種組合進行性能對比測試和敏感性測試，其結(jié)果表明，最佳的性能是在本文提出的兩種機制的組合下取得的，其相對于基準(zhǔn)測試平臺平均性能提高10.5％，相對于DWS平均性能提高6.8％，相對于PDOM和基于窗口調(diào)度機制的最佳性能提