基于使用行為的Cache設(shè)計(jì)和運(yùn)行時(shí)Cache性能優(yōu)化.pdf

1、內(nèi)存已成為當(dāng)前計(jì)算機(jī)系統(tǒng)性能的主要瓶頸之一，它的訪問(wèn)速度通常比處理器慢上數(shù)百倍。為縮小內(nèi)存和處理器間的速度差異，cache得到了普遍應(yīng)用。它對(duì)計(jì)算機(jī)性能的影響也隨內(nèi)存延時(shí)和程序內(nèi)存需求的持續(xù)增加而日益增大。Cache工作的基礎(chǔ)是程序?qū)?shù)據(jù)訪問(wèn)的局部性?，F(xiàn)有的設(shè)計(jì)較少關(guān)注各級(jí)cache數(shù)據(jù)訪問(wèn)的本地局部性特征以及不同程序或者程序的不同階段對(duì)數(shù)據(jù)的不同訪問(wèn)行為，因此，難以使cache充分適應(yīng)多樣化的局部性，限制了cache的性能。本文從新的

2、角度分析了程序?qū)Ω骷?jí)cache的不同使用行為特征，提出了基于使用行為的cache設(shè)計(jì)和運(yùn)行時(shí)cache性能優(yōu)化。
　　 針對(duì)L1 cache，本文研究了它的缺失局部性。采用本文提出的短缺失周期作為程序階段的標(biāo)尺，本文觀察到L1 cache的缺失主要來(lái)自少數(shù)幾個(gè)泄漏組，并且，這些泄漏組具有良好的連續(xù)性和可預(yù)測(cè)性?；谏鲜霈F(xiàn)象，本文提出了使用泄漏組緩存結(jié)構(gòu)來(lái)減少低關(guān)聯(lián)度cache的缺失局部性。通過(guò)預(yù)測(cè)泄漏組的出現(xiàn)位置，泄漏組緩存于運(yùn)

3、行時(shí)動(dòng)態(tài)地緩存這些泄漏組，在不影響訪問(wèn)延時(shí)的前提下減少?zèng)_突缺失。
　　 在L2 cache中，傳統(tǒng)的LRU替換策略對(duì)大于cache容量的工作集表現(xiàn)極差，導(dǎo)致了大量較少重用塊的出現(xiàn)，此時(shí)，可通過(guò)只在cache中保留一部分工作集來(lái)提高性能。現(xiàn)有解決方案通過(guò)過(guò)濾未重用塊來(lái)實(shí)現(xiàn)這一目標(biāo)，但是受到未重用塊數(shù)量的嚴(yán)格限制，它們可能由于未重用塊的缺乏而失效。本文提出了一種新的基于重用頻率的過(guò)濾機(jī)制。該過(guò)濾機(jī)制通過(guò)預(yù)測(cè)和過(guò)濾掉較少重用塊而不單單

4、是未重用塊，可以增加將程序工作集最頻繁訪問(wèn)的部分容納入cache的可能性，克服了現(xiàn)有的只過(guò)濾未重用塊的機(jī)制的缺陷。本文還提出了較少重用過(guò)濾器(LRF)結(jié)構(gòu)來(lái)實(shí)現(xiàn)上述機(jī)制。LRF利用重用頻率預(yù)測(cè)器從數(shù)據(jù)訪問(wèn)流中準(zhǔn)確識(shí)別出較少重用塊。同時(shí)，基于本文觀察到的較少重用塊的生命周期較短的特性，LRF將過(guò)濾出的塊放入過(guò)濾緩存以充分利用，防止它們引發(fā)額外的缺失。
　　 實(shí)驗(yàn)結(jié)果表明，LRF在不對(duì)L2 cache的替換策略做任何修改的情況下，可