基于神經(jīng)網(wǎng)絡的語音識別聲學模型壓縮研究.pdf

1、自動語音識別是人機交互與通信的關鍵組成部分，其主要目的是使機器“聽懂”人類所說的語音，將語音信號轉變?yōu)槲谋拘盘枴Ｂ晫W模型在語音識別系統(tǒng)中占據(jù)著重要地位。傳統(tǒng)的語音識別系統(tǒng)主要使用基于高斯混合模型和隱馬爾可夫模型(Hidden Markov Model，HMM)的聲學模型。近些年來，隨著深度學習的迅速發(fā)展，與傳統(tǒng)的高斯混合模型相比，基于深度神經(jīng)網(wǎng)絡(Deep Neural Networks，DNN)的聲學模型給性能提升帶來了突破性進展。然

2、而，基于深度神經(jīng)網(wǎng)絡的聲學模型包含大量的模型參數(shù)以及顯著的計算復雜度，這給深度神經(jīng)網(wǎng)絡應用于資源受限的移動端設備造成了巨大的困難。因此，基于深度神經(jīng)網(wǎng)絡的聲學模型壓縮技術是為了降低模型的參數(shù)量與計算復雜度，從而促進語音識別系統(tǒng)應用于資源受限的移動端設備。
　　本文是主要圍繞基于深度神經(jīng)網(wǎng)絡的聲學模型，進行模型壓縮技術的研究。首先，從模型參數(shù)量角度，針對基于DNN和全卷積神經(jīng)網(wǎng)絡(Fully Convolutional Neural

3、 Networks，F(xiàn)CNN)的聲學模型，我們提出了基于激活掩碼的方法，在網(wǎng)絡訓練過程中分析與評價網(wǎng)絡模型中神經(jīng)元的重要性，從而移除對網(wǎng)絡模型輸出貢獻較小的神經(jīng)元，實現(xiàn)每個隱層的神經(jīng)元數(shù)目的自動學習和減少網(wǎng)絡模型參數(shù)量。基于長短時記憶(Long Short-Term Memory，LSTM)的遞歸神經(jīng)網(wǎng)絡聲學模型，我們提出了平滑門來分析與評價LSTM模型中記憶單元的重要性，移除對網(wǎng)絡輸出影響較小的記憶單元，從而達到壓縮網(wǎng)絡模型規(guī)模的目的

4、。實驗結果表明在確保語音識別性能的基礎上，這兩種方法可以有效地壓縮網(wǎng)絡模型的寬度。其次，從模型參數(shù)精確度角度，基于DNN和LSTM的聲學模型，本文分別探索了參數(shù)定點化和整數(shù)化對語音識別系統(tǒng)性能的影響，實驗結果表明定點數(shù)和整數(shù)可以有效地降低神經(jīng)網(wǎng)絡模型的參數(shù)精確度和復雜度，而且沒有造成識別性能損失。最后，基于連接時序分類(Connectionist Temporal Classification，CTC)模型的解碼速度優(yōu)勢，采用基于平滑門