AVS編碼器全零塊判決算法研究及AVX指令優(yōu)化.pdf

1、邁進(jìn)新世紀(jì)，為了有效地解決海量視頻數(shù)據(jù)在傳輸與存儲中所帶來的困難，視頻壓縮技術(shù)得到了迅猛地發(fā)展。AVS（Audio Video coding Standard）作為我國獨立設(shè)計與制定的視頻編解碼標(biāo)準(zhǔn)，它的出現(xiàn)打破了國外在視頻編解碼領(lǐng)域的壟斷地位。在AVS中應(yīng)用了很多創(chuàng)新技術(shù)，使得它擁有很好的壓縮性能。然而它優(yōu)越的壓縮性能是用犧牲復(fù)雜度來換取的。因此，在不影響視頻主客觀質(zhì)量的條件下，怎樣去降低AVS的復(fù)雜度是當(dāng)前一個研究熱點。
　　

2、本文對開源xAVS編碼器進(jìn)行研究，其研究目的是從算法和指令優(yōu)化兩個方面在原始的編碼器基礎(chǔ)上進(jìn)一步提升編碼速率。針對這一目的，本文完成的工作主要包括了以下的內(nèi)容：
　　首先，根據(jù)整數(shù)變換與量化的特點，結(jié)合全零塊預(yù)判決的本質(zhì)思想，推導(dǎo)出了基于變換量化特點的全零塊預(yù)判決條件。同時依據(jù)圖像殘差系數(shù)服從拉普拉斯統(tǒng)計分布的理論，推導(dǎo)出了基于拉普拉斯統(tǒng)計模型的全零塊預(yù)判決條件。結(jié)合上述所得到的兩個預(yù)判決條件，給出了一種基于混合模型的全零塊預(yù)判決

3、算法。實驗結(jié)果表明此算法相比于已有的算法全零塊檢出率平均提高20％左右。
　　然后，在基于混合模型的全零塊預(yù)判決算法基礎(chǔ)上，給出了一種基于全零塊幀間模式選擇提早結(jié)束算法。此算法能夠提前終止幀間模式選擇，跳過變換與量化操作，節(jié)省編碼時間。實驗結(jié)果表明此算法編碼速率在原始編碼器的基礎(chǔ)上平均提高了27%左右，而峰值信噪比平均下降僅為0.05dB，傳輸碼率平均上升僅為2.04%。
　　最后，分析并統(tǒng)計了編碼器各個關(guān)鍵模塊耗時的情況。

4、在支持AVX（Advanced Vector Extensions）多媒體指令集的平臺上，分別對耗時較大和密集計算的模塊進(jìn)行優(yōu)化，如計算SAD（Sum of Absolute Difference）、分像素插值、幀內(nèi)預(yù)測以及變換量化等。與 C代碼模塊相比，指令優(yōu)化后的模塊實現(xiàn)了單指令多數(shù)據(jù)流的處理方式。通過采用1080P視頻序列測試，與原始的編碼器進(jìn)行性能比較，使用峰值信噪比、碼率以及編碼速率三個指標(biāo)對比分析優(yōu)化性能，其結(jié)果表明在峰值信