CUDA平臺上的CPU-GPU異步計算模式.pdf

1、計算統(tǒng)一設備架構(CUDA，Compute Unified Device Architecture)開啟了使用GPU強大計算能力做通用計算的大門，使得開發(fā)者能夠在友好的開發(fā)環(huán)境中充分挖掘GPU的計算能力，同時也對CPU/GPU高效的合作計算模式提出了新的要求。一方面，在處理大規(guī)模并行數(shù)據(jù)時，需要保證GPU上各線程間的負載能夠平衡；另一方面，在使用GPU進行計算時，需要保持較高的CPU和GPU利用率。本文分析了CUDA平臺上CPU/GPU

2、同步計算模式的優(yōu)缺點；提出了CPU/GPU異步計算模式，此模式能夠在處理有效計算量分布不平衡的大規(guī)模并行數(shù)據(jù)的應用中發(fā)揮較好作用；最后使用生物信息學中的應用HMMER，對比評測了兩種計算模式。該研究對CUDA平臺上面向應用設計合適的CPU/GPU高效合作計算方法具有一定指導意義。
　　 本文主要研究成果包括：(1)為有效管理有效計算量分布不平衡的大規(guī)模并行數(shù)據(jù)設計了通用數(shù)據(jù)結構，包括主數(shù)據(jù)管理結構和輔助數(shù)據(jù)管理結構，以有效計算工

3、作量為核心，將類似數(shù)據(jù)統(tǒng)一管理并提交給GPU上各線程，從而保證線程間負載平衡。(2)提出了異步計算模式，設計了CPU上的線程劃分方式，包含數(shù)據(jù)讀入線程、計算線程、主控GPU線程。針對CPU和GPU做同步計算時，CPU需要等待GPU完成計算，導致CPU計算資源浪費問題，通過多線程設計，使得CPU無需等待GPU就能夠利用本身的計算能力處理數(shù)據(jù)，從而加快整個程序的運行。(3)以生物信息學應用HMMER為例，分別應用CPU/GPU同步和異步計算