htkbook第二篇htk深度探索

1、第一章 第一章 HTK 基礎(chǔ) 基礎(chǔ)1.5 識別和 識別和 Viterbi 解碼 解碼前面介紹了 HMM 參數(shù)估計(jì)所使用的 BW 算法。在前向算法中，表示的是對于特定模型 M，觀察到向量 o1 到 ot，并且在時(shí)刻 t 處于狀態(tài) j 的概率。這是一 個(gè)確定的值，通過累加所有的前一個(gè)狀態(tài)到狀態(tài) j 的轉(zhuǎn)移，可以得到前向概率的計(jì)算方式這里介紹 Viterbi 算法。識別，基于最大似然的狀態(tài)序列，這種方法可以很好地用于連續(xù)語音，如果使用總概率

2、就很難做到。這個(gè)概率的計(jì)算，本質(zhì)上和前向概率的計(jì)算一樣，只不過，前向概率在每一步 都是求和操作，這里每一步都是一次最大化操作。對于給定的模型 M，假定 表示給定模型 M，觀察到向量 o1 到 ot，并且在時(shí)刻t 處于狀態(tài) j 的概率最大， 就是這個(gè)最大概率。這個(gè)概率可以使用下面的迭代公式計(jì) 算。也許要問了，難道這個(gè)值不是固定的嗎？怎么還存在一個(gè)最大概率？難道還有其它值嗎？答：在前向概率計(jì)算中，每個(gè)觀察向量都對每個(gè)狀態(tài)作出某種程度的貢獻(xiàn)，

3、這個(gè)程度，也就 是該觀察向量，處于狀態(tài) i 的概率。假設(shè)有 N 個(gè)狀態(tài)，那么每個(gè)時(shí)間點(diǎn) t 的觀察向量，都對 N 個(gè)狀態(tài)有所貢獻(xiàn)，因此對每一個(gè)狀態(tài)，需要將每個(gè)時(shí)間點(diǎn)的貢獻(xiàn)累積起來，計(jì)算均值和協(xié) 方差。但是，每個(gè)時(shí)間點(diǎn) t 的觀察向量，對每個(gè)狀態(tài)的貢獻(xiàn)程度是不同的，肯定有一個(gè)最大的概 率，也就是說，最可能對應(yīng)的是哪個(gè)狀態(tài)？這樣，就認(rèn)為這個(gè)觀察向量只屬于此狀態(tài)，只用 于此狀態(tài)的參數(shù)計(jì)算。這就是 Viterbi 算法的思想。上面公式的含義，是

4、對于所有的狀態(tài) i∈N，求時(shí)間 t 處觀察向量概率最大的狀態(tài) j。在時(shí)間 t 處，觀察到 o1 到 ot，并且處于某狀態(tài)的概率是所有狀態(tài)中的最大值。這么理解也不完全正確。對于任何狀態(tài) j∈N，在每個(gè)時(shí)間 t 處，都可以計(jì)算 的值， 也就是說，每個(gè)狀態(tài)都有這個(gè)值。最大化操作，實(shí)際上是針對前一個(gè)時(shí)間點(diǎn) t-1 的，要找一個(gè) t-1 時(shí)刻使得 最大的狀態(tài) i，使用這個(gè)狀態(tài) i 的 和 aij 的乘積，作為比較依據(jù)，取一個(gè)最大 值得 i。這里的

5、最大化操作，是針對狀態(tài) i 的，也就是說，從一個(gè)唯一的 t-1 時(shí)刻的狀態(tài) i，來得到狀態(tài) j 的 值。以上理解錯(cuò)誤，最大化操作還是針對時(shí)間 t 的，也就是當(dāng)前步驟的。大可能性。那么對所有模型進(jìn)行取最大值，就能得到 O 所對應(yīng)的模型了。即M = argmax{ P(O|Mi) }問題：對于連續(xù)語音識別，假設(shè)有 50 個(gè)模型，那么對于觀察到的數(shù)據(jù) O，求其對應(yīng)的模型 序列。如果按照上面的算法，就要首先把 50 個(gè)模型所組成的模型序列都排列

6、出來，共有 50 的 50 次方個(gè)，比宇宙中所有物質(zhì)的原子數(shù)目還要多?。「緹o法為每個(gè)模型序列計(jì)算上面 的最大似然概率，進(jìn)而無法在這 50 的 50 次方個(gè)模型序列中尋找具有最大似然概率的那個(gè)序 列。那么怎樣將上述的 Viterbi 算法引用到多個(gè)模型連續(xù)識別中呢？答：看下面。如果知道觀察數(shù)據(jù) O 的每個(gè)音素的邊界，即可以將 O 分成一段段的，每一段對應(yīng) 50 個(gè) 模型中的一個(gè)，那么上述問題很好解決，對每一段進(jìn)行單獨(dú)識別即可，每一段是孤

7、立詞識 別，為該段數(shù)據(jù)計(jì)算 50 個(gè)模型的最大似然概率，取最大者即可。1.6 連續(xù)詞語音識別 連續(xù)詞語音識別現(xiàn)在回到圖 1.1 所示意的語音識別模型，可以清楚地知道，連續(xù)語音識別僅僅需要將多 個(gè) HMM 連接起來，而這個(gè)連接而成的 HMM 模型序列中的每個(gè)模型，都對應(yīng)了其隱藏的符 號，這個(gè)符號可能是一個(gè)單詞，那么這稱為“連接詞語音識別”，這個(gè)符號也可能是一個(gè)音 素，那么這稱為“連續(xù)語音識別”。另外，在每個(gè)模型中包括首尾兩個(gè)不可觀察的狀態(tài)

8、的原 因，現(xiàn)在應(yīng)該也清楚了，這是多個(gè) HMM 模型連接在一起的粘合劑。然而，依然有一些難點(diǎn)。由孤立詞過渡到連續(xù)詞，對于模型訓(xùn)練算法 Baum-Welch 算法 來說，所作的修改很小，只需要把所有模型連接成一個(gè)大模型，然后使用 HERest 的所謂 “嵌入式”訓(xùn)練即可，原理和過程和 HRest 中類似。然而，對于 Viterbi 識別算法來說，需要進(jìn)行重大的擴(kuò)展，這也是 HVite 中所做的。在 HTK 中，使用了 Viterbi 算法的

9、一個(gè)變種，叫做“令牌傳送模型” “令牌傳送模型”，Token Passing Model。 簡單地說，令牌傳送模型采用了狀態(tài)路徑對齊 狀態(tài)路徑對齊的概念。想象一下，一個(gè) HMM 中的每個(gè)狀態(tài) j 在時(shí)間 t 處，都擁有一個(gè)可移動(dòng)的令牌，這個(gè)令 牌中的信息，包含最大似然概率 ψj(t)，那么這個(gè)令牌就可以表示從 o1 到 ot 這個(gè)部分觀察向 量序列，和模型的匹配程度，限制條件是在時(shí)刻 t 必須處于狀態(tài) j。這樣，上面的路徑增長算法就可以

10、使用新的“令牌傳送”算法替代，這個(gè)算法也是在每 個(gè)時(shí)間點(diǎn) t 處執(zhí)行，其中的關(guān)鍵步驟是：1. 將狀態(tài) i 處的令牌，傳送到和狀態(tài) i 相連的每個(gè)狀態(tài) j，然后遞增上面的最大似然概率， 使用對數(shù)運(yùn)算時(shí)，遞增的數(shù)值是 log[aij ] + log[bj(o(t)]。2. 在每個(gè)狀態(tài)處，都檢查令牌的值，只保留具有最大似然概率的那個(gè)令牌，丟棄其它的。使用令牌傳送模型的好處是，它可以非常容易地?cái)U(kuò)展到連續(xù)語音識別的情況中。假設(shè)允 許出現(xiàn)的 HMM