AVS編碼器全零塊判決算法研究及AVX指令優(yōu)化.pdf

1、邁進新世紀，為了有效地解決海量視頻數(shù)據(jù)在傳輸與存儲中所帶來的困難，視頻壓縮技術得到了迅猛地發(fā)展。AVS（Audio Video coding Standard）作為我國獨立設計與制定的視頻編解碼標準，它的出現(xiàn)打破了國外在視頻編解碼領域的壟斷地位。在AVS中應用了很多創(chuàng)新技術，使得它擁有很好的壓縮性能。然而它優(yōu)越的壓縮性能是用犧牲復雜度來換取的。因此，在不影響視頻主客觀質(zhì)量的條件下，怎樣去降低AVS的復雜度是當前一個研究熱點。
　　

2、本文對開源xAVS編碼器進行研究，其研究目的是從算法和指令優(yōu)化兩個方面在原始的編碼器基礎上進一步提升編碼速率。針對這一目的，本文完成的工作主要包括了以下的內(nèi)容：
　　首先，根據(jù)整數(shù)變換與量化的特點，結合全零塊預判決的本質(zhì)思想，推導出了基于變換量化特點的全零塊預判決條件。同時依據(jù)圖像殘差系數(shù)服從拉普拉斯統(tǒng)計分布的理論，推導出了基于拉普拉斯統(tǒng)計模型的全零塊預判決條件。結合上述所得到的兩個預判決條件，給出了一種基于混合模型的全零塊預判決

3、算法。實驗結果表明此算法相比于已有的算法全零塊檢出率平均提高20％左右。
　　然后，在基于混合模型的全零塊預判決算法基礎上，給出了一種基于全零塊幀間模式選擇提早結束算法。此算法能夠提前終止幀間模式選擇，跳過變換與量化操作，節(jié)省編碼時間。實驗結果表明此算法編碼速率在原始編碼器的基礎上平均提高了27%左右，而峰值信噪比平均下降僅為0.05dB，傳輸碼率平均上升僅為2.04%。
　　最后，分析并統(tǒng)計了編碼器各個關鍵模塊耗時的情況。

4、在支持AVX（Advanced Vector Extensions）多媒體指令集的平臺上，分別對耗時較大和密集計算的模塊進行優(yōu)化，如計算SAD（Sum of Absolute Difference）、分像素插值、幀內(nèi)預測以及變換量化等。與 C代碼模塊相比，指令優(yōu)化后的模塊實現(xiàn)了單指令多數(shù)據(jù)流的處理方式。通過采用1080P視頻序列測試，與原始的編碼器進行性能比較，使用峰值信噪比、碼率以及編碼速率三個指標對比分析優(yōu)化性能，其結果表明在峰值信