面向模式表示與模式源的分類器設(shè)計(jì)方法研究.pdf

1、模式識(shí)別是研究利用計(jì)算機(jī)來(lái)模仿或?qū)崿F(xiàn)人類的識(shí)別能力，以實(shí)現(xiàn)對(duì)研究對(duì)象的自動(dòng)識(shí)別，其相關(guān)技術(shù)已被廣泛應(yīng)用于人工智能、機(jī)器學(xué)習(xí)、神經(jīng)生物學(xué)、醫(yī)學(xué)等眾多領(lǐng)域。在模式識(shí)別學(xué)習(xí)中，分類器作為模式識(shí)別研究的基本工具，模式作為其研究對(duì)象，因此分類器設(shè)計(jì)與模式已成為模式識(shí)別的研究重點(diǎn)。本文從模式識(shí)別研究對(duì)象――模式出發(fā)，力圖設(shè)計(jì)出能盡可能考慮模式先驗(yàn)知識(shí)的分類器，即面向模式表示及模式源的分類算法。本文的主要貢獻(xiàn)在于：
　　 (1)提出一種面向

2、模式表示的分類器設(shè)計(jì)方法。該方法能直接操作非向量模式（矩陣），從而形成不同于向量型分類器的傳統(tǒng)設(shè)計(jì)理念。新的分類模型可直接操作矩陣（包括那些原為向量模式而通過(guò)矩陣化重構(gòu)的矩陣模式）使傳統(tǒng)向量型分類模型作為其特例。本文從現(xiàn)有性能優(yōu)越的向量型線性分類器入手，通過(guò)選出合適的模型進(jìn)行合理地非向量化（矩陣化）改造。力圖在保持分類器線性性的同時(shí)，設(shè)計(jì)出性能更優(yōu)的面向非向量（矩陣）模式的新型分類器，并探究其性能提升的本質(zhì)所在。這種新的設(shè)計(jì)理念有助于：

3、I）在仍保持分類器線性、簡(jiǎn)單和數(shù)學(xué)易處理的同時(shí)，探究非向量化（矩陣化）的模式表示對(duì)分類器推廣性能的影響；ii）分類器存儲(chǔ)空間的大規(guī)模約簡(jiǎn)。最終為分類器設(shè)計(jì)提供一個(gè)新的途徑。
　　 (2)設(shè)計(jì)了兩種矩陣型分類器算法：I）矩陣型最小平方支持向量機(jī)（MatLSSVM）；ii）矩陣型正則化Ho-Kashyap分類器算法（MatMHKS）。實(shí)驗(yàn)驗(yàn)證了所設(shè)計(jì)的矩陣型分類器算法在所用的數(shù)據(jù)集尤其是圖像上，相比向量型分類器具有顯著的推廣性及存

4、儲(chǔ)復(fù)雜度上的優(yōu)勢(shì)。
　　 (3)針對(duì)矩陣型分類器存在的矩陣化依賴問(wèn)題，提出了基于AdaBoost的矩陣型分類器設(shè)計(jì)方法以達(dá)成去依賴的目的，并以MatLSSVM為例設(shè)計(jì)了改進(jìn)型的AdaMatLSSVM算法。
　　 (4)提出了一種全矩陣化的分類學(xué)習(xí)方法，即將矩陣型特征提取與矩陣型分類器設(shè)計(jì)相結(jié)合的學(xué)習(xí)方法（MatFE+MatCD）。為驗(yàn)證該方法的有效性，本文給出了特征提取與分類器設(shè)計(jì)兩個(gè)階段中模式分別以向量和矩陣表示的

5、所有可能組合，包括：矩陣型特征提取+向量型分類（MatFE+VecCD），向量型特征提取+向量型分類（VecFE+VecCD），矩陣型分類（MatCD），向量型分類（VecCD）以及向量型特征提取+矩陣型分類（VecFE+MatCD）。實(shí)驗(yàn)驗(yàn)證了：I）在原本包含結(jié)構(gòu)或空間信息的圖像模式上，全矩陣化方法即MatFE+MatCD能有效提高分類性能；ii）模式的矩陣表示為特征提取與分類器設(shè)計(jì)兩個(gè)階段的學(xué)習(xí)提供了又一簡(jiǎn)單有效的表示形式。

6、　　 (5)發(fā)展了一個(gè)更為廣泛的結(jié)合模式源的多視角學(xué)習(xí)框架，主要體現(xiàn)在：I）設(shè)計(jì)了一系列將單源模式多視角化的方法?，F(xiàn)有多視角學(xué)習(xí)要求多源模式各視角間滿足條件獨(dú)立性，但現(xiàn)實(shí)中這一條件往往難以滿足，導(dǎo)致已有多視角方法較難有效工作。提出的將單源模式多視角化方法則能有效解決這一問(wèn)題；ii）不同于現(xiàn)有多視角學(xué)習(xí)在每個(gè)視角上的各自訓(xùn)練，本文提出了同時(shí)在生成的多視角模式上進(jìn)行聯(lián)合優(yōu)化訓(xùn)練的方式；iii）所給出的多視角學(xué)習(xí)框架并不限于某一具體算法；

7、iv）類似于模式可分為單視角（單源）和多視角（多源），本文通過(guò)將單一體系結(jié)構(gòu)的分類器與具有多個(gè)體系結(jié)構(gòu)的分類器分別視為單視角分類器和多視角分類器，從而將現(xiàn)有的分類學(xué)習(xí)模型分為單源模式＋單視角分類器、多源模式＋單視角分類器、單源模式＋多視角分類器與多源模式＋多視角分類器的四種形式?？紤]到現(xiàn)有分類研究主要集中于前兩種模型，因此本文以單源模式＋多視角分類器模型為例進(jìn)行了重點(diǎn)研究，并針對(duì)單源模式設(shè)計(jì)出五種不同的多視角分類學(xué)習(xí)算法，即a）Mult