眾核片上私有型末級Cache共享化架構(gòu)設(shè)計(jì)與實(shí)現(xiàn).pdf

1、應(yīng)用復(fù)雜度的不斷上升以及芯片功耗的制約,使得單核、多核處理系統(tǒng)逐漸難以滿足需要;處理數(shù)量更多的眾核處理系統(tǒng)受到了越來越多的關(guān)注。然而,更多的處理核數(shù)量,卻對作為處理系統(tǒng)性能關(guān)鍵因素的片上存儲架構(gòu)的設(shè)計(jì)帶來了新的挑戰(zhàn):其一,處理核數(shù)量增多導(dǎo)致芯片規(guī)模上升、片上訪存延時(shí)上升;其二,眾核處理系統(tǒng)中對應(yīng)用細(xì)粒度并行化而衍生的共享化數(shù)據(jù)模型,導(dǎo)致單個(gè)處理核存儲空間需求上升。面對新挑戰(zhàn),傳統(tǒng)多核片上存儲架構(gòu)均存在缺陷:共享型末級Cache架構(gòu)將引起

2、大量片上網(wǎng)絡(luò)通信,且其相對單個(gè)處理核的模塊化與可擴(kuò)展性較差;私有型末級Cache架構(gòu),其單個(gè)處理核的等效存儲空間較小,導(dǎo)致對片外存儲單元的訪存過多;Cooperative Caching架構(gòu),為請求數(shù)據(jù)塊的處理核所提供的選擇較少,易導(dǎo)致長距離、橫跨芯片的數(shù)據(jù)塊訪存。
　　針對眾核處理系統(tǒng)所帶來的新挑戰(zhàn)及傳統(tǒng)架構(gòu)應(yīng)對時(shí)的不足,本文提出了眾核片上私有型末級Cache共享化架構(gòu)。以未來眾核系統(tǒng)中更具潛力的私有型末級Cache架構(gòu)為基礎(chǔ),

3、通過將單個(gè)處理核的被替換數(shù)據(jù)塊保留于片上其他處理核中,并允許片上各處理核間的數(shù)據(jù)塊互相訪存,實(shí)現(xiàn)私有型末級Cache架構(gòu)的共享化,提高單個(gè)處理核存儲空間的等效容量。通過對被替換數(shù)據(jù)塊在片上保留多個(gè)副本,為該數(shù)據(jù)塊的請求處理核提供更多選擇,得以從更合適的地方獲得數(shù)據(jù)塊。同時(shí),通過基于閾值在線動態(tài)調(diào)整的被替換數(shù)據(jù)塊保留數(shù)量判決算法與基于存儲資源利用率在線監(jiān)測的被替換數(shù)據(jù)塊保留位置選擇算法,分別從保留數(shù)量與保留位置兩個(gè)維度,細(xì)粒度地控制被替換

4、數(shù)據(jù)塊的多副本保留,減少保留行為對其他處理核存儲空間的影響。
　　本文在描述了所提出架構(gòu)具體實(shí)現(xiàn)方案的基礎(chǔ)上,對其硬件實(shí)現(xiàn)代價(jià)作了分析:本架構(gòu)硬件額外開銷約為4.35％~8.20%。同時(shí),本文利用GEM5全系統(tǒng)仿真平臺,以64核眾核處理系統(tǒng)為例,將本文所提出架構(gòu),與傳統(tǒng)架構(gòu)進(jìn)行對比。性能分析結(jié)果顯示:本架構(gòu)在片上網(wǎng)絡(luò)通信負(fù)荷上,相比共享型末級Cache架構(gòu)減少78.6%,相比私有型末級Cache架構(gòu)略有增加,相比Cooperati

5、ve Caching架構(gòu)減少11.9%;在片外存儲單元訪存負(fù)荷上,相比私有型末級Cache架構(gòu)下降25.6%,相比Cooperative Caching架構(gòu)下降6.5%;在眾核處理系統(tǒng)整體處理性能上,相比共享型末級Cache架構(gòu)均提升59.5%,私有型末級Cache架構(gòu)最好情況提升11.9%、平均提升6.2%;Cooperative Caching架構(gòu)最好提升11.2%、平均提升5.3%。綜合上述硬件實(shí)現(xiàn)代價(jià)及性能分析結(jié)果,證明了本架構(gòu)