適用于多-眾核系統(tǒng)的智能目錄高速緩存.pdf

1、集成電路技術(shù)的進(jìn)步使得多個(gè)處理器核能夠集成到單個(gè)芯片上，處理器核間的同步和通信成為提高多/眾核系統(tǒng)性能的關(guān)鍵因素。共享存儲(chǔ)模型是片上多處理器研究和應(yīng)用中的一個(gè)熱點(diǎn)問(wèn)題，涉及到片上高速緩存資源的利用和一致性協(xié)議的實(shí)現(xiàn)。處理器核數(shù)的持續(xù)增長(zhǎng)使得基于偵聽的一致性協(xié)議面臨性能和帶寬的瓶頸。基于目錄的一致性協(xié)議憑借其較好的可擴(kuò)展性被廣泛地采用，但面臨硬件成本問(wèn)題。目錄高速緩存總的存儲(chǔ)是目錄條目尺寸和目錄條目數(shù)量的乘積，其開銷隨著處理器核數(shù)的增加而

2、迅速增長(zhǎng)。本文針對(duì)共享存儲(chǔ)片上多處理器系統(tǒng)，通過(guò)挖掘和利用數(shù)據(jù)訪存模式，設(shè)計(jì)了表現(xiàn)力強(qiáng)、硬件開銷小、靈活高效的片上存儲(chǔ)子系統(tǒng)。表現(xiàn)力是指在目錄高速緩存中跟蹤和記錄了數(shù)據(jù)的訪存模式。本文主要解決了三個(gè)問(wèn)題:1）目錄條目尺寸的壓縮，2）目錄條目數(shù)量的壓縮，3）分布式高速緩存和目錄高速緩存的協(xié)調(diào)利用。
　　首先，本文提出了一種混合結(jié)構(gòu)的目錄來(lái)減少目錄條目的平均尺寸。傳統(tǒng)目錄緩存為每個(gè)條目分配了一個(gè)全向量來(lái)跟蹤可能的共享者，其尺寸隨著處理

3、器核數(shù)成線性增長(zhǎng)。本文從一個(gè)全新的、整體的角度來(lái)挖掘目錄高速緩存的規(guī)律，根據(jù)其跟蹤數(shù)據(jù)在訪存模式上的差異性，提出了采用不同類型的條目來(lái)跟蹤不同類型的數(shù)據(jù);尤其利用了多線程應(yīng)用程序中私有數(shù)據(jù)占據(jù)很大比例的特點(diǎn)，采用單指針和全向量相混合的方式來(lái)實(shí)現(xiàn)目錄高速緩存。64路片上多核模擬器的仿真結(jié)果表明:混合目錄中的單指針目錄條目比例占到93.75％，相應(yīng)的壓縮比是2.7倍;系統(tǒng)執(zhí)行時(shí)間、片上網(wǎng)絡(luò)通信量和功耗開銷的增長(zhǎng)均在0.6％以下。而其他單條目

4、壓縮技術(shù)在實(shí)現(xiàn)1.7倍的壓縮比時(shí)，至少要付出約2.5％的性能損失。
　　其次，本文提出了多粒度目錄來(lái)減少目錄條目的數(shù)量。基本目錄一致性協(xié)議是以單個(gè)高速緩存塊為單位進(jìn)行一致性維護(hù)的。連續(xù)地址空間內(nèi)（區(qū)域）數(shù)據(jù)的訪問(wèn)模式存在一定的相關(guān)性，可以采用單個(gè)目錄條目管理多個(gè)高速緩存塊;同時(shí)為了避免單純的區(qū)域化管理導(dǎo)致的虛假共享的增加，對(duì)區(qū)域內(nèi)訪問(wèn)模式不同的數(shù)據(jù)還是以塊為單位進(jìn)行一致性維護(hù)。通過(guò)區(qū)域和塊條目的結(jié)合使用，可以在減少目錄條目數(shù)量的同

5、時(shí)避免額外的一致性開銷。設(shè)計(jì)中采用了兩種粒度的區(qū)域條目，在條目類型上可以是私有或者共享的，區(qū)域條目的設(shè)定會(huì)隨著相關(guān)性區(qū)域訪問(wèn)模式的變化而變化，來(lái)達(dá)到提高管理能力的目的。64路片上多核模擬器的仿真結(jié)果表明:多粒度目錄可以將目錄條目數(shù)量壓縮10倍，同時(shí)其對(duì)性能的影響在0.5％左右。相關(guān)技術(shù)在實(shí)現(xiàn)同樣的壓縮比時(shí)性能下降了7.5％。而混合目錄和多粒度目錄相結(jié)合可以將目錄緩存的存儲(chǔ)開銷壓縮22倍，同時(shí)并行評(píng)測(cè)程序的平均執(zhí)行時(shí)間只增長(zhǎng)了0.3％。<

6、br>　　最后，本文結(jié)合細(xì)粒度的數(shù)據(jù)訪問(wèn)模式，提出了高效元數(shù)據(jù)高速緩存來(lái)提高片上存儲(chǔ)子系統(tǒng)的效率，包括高速緩存機(jī)制和一致性維護(hù)兩個(gè)方面。元數(shù)據(jù)包括了相關(guān)數(shù)據(jù)的一致性信息以及訪問(wèn)模式。根據(jù)元數(shù)據(jù)的內(nèi)容，數(shù)據(jù)和元數(shù)據(jù)不再采用固定的私有或共享的映射機(jī)制，而是根據(jù)動(dòng)態(tài)的訪存行為遷移或復(fù)制到系統(tǒng)中的任意節(jié)點(diǎn)，從而加速數(shù)據(jù)訪問(wèn)和一致性維護(hù)的速度，同時(shí)可以降低片上網(wǎng)絡(luò)中的通信量和功耗開銷。64路片上多核模擬器的仿真結(jié)果表明:相比共享的高速緩存映射機(jī)制

7、，采用我們的元數(shù)據(jù)高速緩存機(jī)制，系統(tǒng)執(zhí)行時(shí)間可縮短10.5％，并且片上通信和存儲(chǔ)系統(tǒng)功耗開銷分別降低了34.7％和23.7％。這些性能提升都是在元數(shù)據(jù)存儲(chǔ)壓縮4.7倍的情況下獲得的。作為片上多處理器的基本構(gòu)件，有元數(shù)據(jù)高速緩存機(jī)制支持的多核預(yù)取技術(shù)可使系統(tǒng)執(zhí)行時(shí)間進(jìn)一步縮減5.1％。
　　本論文探索多/眾核系統(tǒng)的智能存儲(chǔ)子系統(tǒng)的設(shè)計(jì)策略，達(dá)到了降低目錄存儲(chǔ)開銷和規(guī)劃調(diào)度節(jié)省的存儲(chǔ)資源，以及優(yōu)化存儲(chǔ)管理的目的，提高了存儲(chǔ)系統(tǒng)的一致性