基于GPU的BLAS庫的設計和實現(xiàn).pdf

1、BLAS(Basic Linear Algebra Subprograms)定義了一組基本的矩陣和向量的操作，包括各種矩陣乘法和矩陣向量乘法，在許多領域有廣泛的應用。現(xiàn)在的GPU已經(jīng)發(fā)展為一種多核，多線程，具有杰出的計算能力和很高的存儲器帶寬，可編程的處理器。GPU可以用來加速許多具有數(shù)據(jù)并行特征的應用。本文在BLAS通用版本基礎上，分析GPU體系結構特點和BLAS函數(shù)特征，使用CUDA在GPU上高效實現(xiàn)BLAS庫的一些核心操作。

2、>　　 本文首先介紹了BLAS函數(shù)標準，重點介紹了BLAS庫中應用最多的是BLAS2和BLAS3提供的函數(shù)，特別是BLAS2中的GEMV和BLAS3中的GeneralMartrix Multiply(GEMM)，即通用矩陣相乘。介紹了GPU體系結構特點以及CUDA，包括CUDA的體系結構和常用的優(yōu)化方法。
　　 然后，使用CUDA在GPU上設計和實現(xiàn)了三級BLAS庫的核心函數(shù)GEMM(通用矩陣相乘)。在實現(xiàn)通用矩陣相乘時，需要

3、考慮兩種情況：一種是數(shù)據(jù)已經(jīng)拷貝到GPU的顯存中的情況。在Geforce GTX260上，在數(shù)據(jù)已經(jīng)拷貝到顯存的前提下，算法峰值是65GFLOPS。而GTX260的雙精度峰值是67.068GFLOPS，因此雙精度的實現(xiàn)效率達到了97％。另一種是數(shù)據(jù)沒有拷貝到顯存中的情況。在大規(guī)模矩陣乘法的計算中，數(shù)據(jù)不能夠一次全部的拷貝到顯存中。通過數(shù)據(jù)調(diào)度，本文的算法拷貝數(shù)據(jù)的時間不超過總時間的10％。
　　 最后，使用CUDA在GPU上設計