模糊支持向量機(jī)及其在圖像識(shí)別中的應(yīng)用.pdf

1、基于數(shù)據(jù)的機(jī)器學(xué)習(xí)問(wèn)題就是人們?cè)趯?duì)機(jī)器智能的研究中，用機(jī)器來(lái)模擬這種學(xué)習(xí)能力，研究從觀測(cè)數(shù)據(jù)（樣本）出發(fā)，通過(guò)對(duì)已知數(shù)據(jù)的學(xué)習(xí)，找到數(shù)據(jù)內(nèi)在的相互關(guān)系，利用這些規(guī)律對(duì)未來(lái)數(shù)據(jù)或無(wú)法觀測(cè)的數(shù)據(jù)進(jìn)行預(yù)測(cè)，它是現(xiàn)代智能技術(shù)中的一個(gè)重要方面?，F(xiàn)有機(jī)器學(xué)習(xí)方法的重要理論基礎(chǔ)之一是統(tǒng)計(jì)學(xué)，傳統(tǒng)統(tǒng)計(jì)學(xué)所研究的是漸進(jìn)理論，即當(dāng)樣本數(shù)目趨向于無(wú)窮大時(shí)的極限特性。但實(shí)際應(yīng)用中，這種前提條件卻往往得不到滿(mǎn)足，這是包括模式識(shí)別和神經(jīng)網(wǎng)絡(luò)等在內(nèi)的現(xiàn)有機(jī)器學(xué)習(xí)理論

2、和方法中的一個(gè)根本問(wèn)題。 與傳統(tǒng)統(tǒng)計(jì)學(xué)相比，統(tǒng)計(jì)學(xué)習(xí)理論(Statistical Learning Theory或SLT)是一種專(zhuān)門(mén)研究小樣本情況下的機(jī)器學(xué)習(xí)理論，它為解決有限樣本下的機(jī)器學(xué)習(xí)問(wèn)題提供了一個(gè)統(tǒng)一的框架。它能將很多現(xiàn)有方法納入其中，有望幫助解決許多原來(lái)難以解決的問(wèn)題（比如神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)選擇問(wèn)題、局部極小點(diǎn)問(wèn)題等）；同時(shí)，在這一理論基礎(chǔ)上發(fā)展了一種新的通用學(xué)習(xí)方法—支持向量機(jī)(Support Vector Machin

3、e或SVM)，它已初步表現(xiàn)出許多優(yōu)異的性能。 自從扎德的模糊集合理論創(chuàng)建以來(lái)，在近20年里，模糊方法學(xué)以其獨(dú)特的特性已經(jīng)滲透到各個(gè)研究鄰域，如控制和系統(tǒng)辨識(shí)，信號(hào)和圖像處理以及模式分類(lèi)等。本文研究了統(tǒng)計(jì)學(xué)習(xí)理論和支持向量機(jī)的基本原理，對(duì)基于模糊系統(tǒng)和支持向量機(jī)做了進(jìn)一步的分析和研究，并將模糊系統(tǒng)和支持向量機(jī)運(yùn)用到人臉識(shí)別領(lǐng)域。本文主要研究的是靜態(tài)，正面端正的灰度圖像情況下的人臉識(shí)別問(wèn)題。 本文首先對(duì)模糊支持向量機(jī)(Fuz

4、zy Support Vector Machine或FSVM)作了重點(diǎn)分析和研究。對(duì)人臉圖像的多種代數(shù)特征抽取方法進(jìn)行了總結(jié)性的對(duì)比，將抽取的人臉特征應(yīng)用到基于FSVM和基于模糊系統(tǒng)的算法上，并對(duì)FSVM的多類(lèi)算法提出改進(jìn)，將多叉決策樹(shù)和FSVM進(jìn)行了結(jié)合。 本文提出了一種改進(jìn)的基于樣本區(qū)域性分析的混合人臉?lè)诸?lèi)算法。在FSVM的基礎(chǔ)上，首先利用樣本的相關(guān)度對(duì)樣本進(jìn)行區(qū)域性分析，從而判斷樣本歸屬于哪種分類(lèi)區(qū)域，對(duì)傳統(tǒng)分類(lèi)器不可分的

5、區(qū)域樣本采用FSVM并結(jié)合三叉決策樹(shù)進(jìn)行分類(lèi)，對(duì)其它區(qū)域的樣本采用最近鄰法計(jì)算分類(lèi)結(jié)果。該方法最大程度的體現(xiàn)了利用FSVM進(jìn)行樣本分類(lèi)的優(yōu)勢(shì)，同時(shí)也極大幅度的提高了多類(lèi)人臉樣本的分類(lèi)速度。 本文同時(shí)對(duì)產(chǎn)生式模糊系統(tǒng)作了深入研究，對(duì)模糊系統(tǒng)中的模糊規(guī)則和SVM內(nèi)積函數(shù)之間的關(guān)系作了分析和利用，并采用了獨(dú)立成分分析(ICA)和SVM對(duì)人臉樣本進(jìn)行學(xué)習(xí)，由支持向量確定模糊規(guī)則，從而構(gòu)造出一種基于規(guī)則的人臉模糊分類(lèi)器。該模糊系統(tǒng)在ORL

6、人臉庫(kù)上的實(shí)驗(yàn)結(jié)果表明，該方法同樣適合解決小樣本、非線性、高維模式的分類(lèi)問(wèn)題。 本文對(duì)序貫最小優(yōu)化(sequential minimal optimization或SMO)算法進(jìn)行了分析，提出基于模糊序貫最小優(yōu)化(FSMO)的多類(lèi)人臉識(shí)別算法，在對(duì)人臉圖像進(jìn)行ICA特征抽取后，分析用該算法進(jìn)行多類(lèi)人臉識(shí)別的性能，并和原始FSVM分類(lèi)算法進(jìn)行了實(shí)驗(yàn)比對(duì)。 人臉識(shí)別研究是當(dāng)前模式識(shí)別領(lǐng)域的一個(gè)熱點(diǎn)研究課題。本文就基于模糊支持