基于正則化方法的非負(fù)矩陣分解算法及其應(yīng)用研究.pdf

1、近年來，隨著識別技術(shù)在自然資源分析、天氣預(yù)報(bào)、導(dǎo)航、地圖與地形配準(zhǔn)、環(huán)境監(jiān)測等領(lǐng)域的廣泛應(yīng)用，各種理論和方法也被大量應(yīng)用于其中，非負(fù)矩陣分解方法作為一種代表性的矩陣分解方法也被受到了廣泛的關(guān)注。非負(fù)矩陣分解方法是一種子空間分析方法，其本質(zhì)是一種特征提取和選擇的方法。其基本思想是在樣本空間中尋找合適的子空間，通過將高維樣本投影到低維子空間上，從而在子空間上獲得樣本的本質(zhì)特征，利用這些特征實(shí)現(xiàn)分類識別。非負(fù)矩陣分解方法作為一項(xiàng)數(shù)據(jù)處理技術(shù)，

2、揭示了數(shù)據(jù)的本質(zhì)，已經(jīng)被廣泛應(yīng)用到人臉檢測與識別、文本分析和聚類等諸多方面的研究中。流形學(xué)習(xí)目前已經(jīng)成為機(jī)器學(xué)習(xí)及模式識別等領(lǐng)域的研究熱點(diǎn)之一，其主要目標(biāo)是發(fā)現(xiàn)高維空間數(shù)據(jù)的低維光滑流形?；诹餍螌W(xué)習(xí)的矩陣分解方法是應(yīng)用比較廣泛的一種特征抽取方法。本文通過挖掘數(shù)據(jù)本身固有的幾何結(jié)構(gòu)及利用少量監(jiān)督信息，對基于流形學(xué)習(xí)的矩陣分解算法進(jìn)行了研究，提出了幾種新的矩陣分解算法，同時(shí)在提升分解矩陣稀疏表示能力方面對非負(fù)矩陣分解算法作出了一些改進(jìn)。<

3、br>　　本文的主要工作和創(chuàng)新成果點(diǎn)集中在以下幾個(gè)方面:
　　(1)在基于交替非負(fù)最小二乘的非負(fù)矩陣分解(ANLS-NMF)算法的框架流程、投影梯度算法的算法結(jié)構(gòu)和非負(fù)矩陣下逼近分解(NMU)算法的基礎(chǔ)上。以減少算法時(shí)間復(fù)雜度為目標(biāo)，將投影梯度方法和非負(fù)矩陣下逼近分解方法相結(jié)合，提出了基于投影梯度非負(fù)矩陣的下逼近分解(PGNMU)算法。
　　(2)在基于正交子空間非負(fù)矩陣分解(NMFOS)算法的基礎(chǔ)上，考慮分解所得矩陣的稀疏

4、表示能力，引入對分解矩陣的平滑l0范數(shù)約束，提出了基于平滑l0范數(shù)約束的正交子空間非負(fù)矩陣分解(NMFOS-SL0)算法。在該算法中，通過對分解矩陣引入平滑l0范數(shù)的約束，使得分解所得矩陣的稀疏性得以增強(qiáng)。
　　(3)在流形正則化的非負(fù)矩陣分解(NMF-KNN)算法的基礎(chǔ)上，利用模糊集理論，提出了基于模糊K最近鄰圖的非負(fù)矩陣分解(NMF-FKNN)算法。在該方法中，首先根據(jù)模糊K最近鄰算法來構(gòu)造類內(nèi)和類間KNN圖，即類內(nèi)模糊KNN

5、圖和類間模糊KNN圖，然后將這兩個(gè)圖嵌入至非負(fù)矩陣分解的目標(biāo)函數(shù)中，最后通過交替迭代更新規(guī)則來進(jìn)行求解，并證明了在該交替迭代更新規(guī)則下目標(biāo)函數(shù)的收斂性。
　　(4)在概念分解模型框架下，同時(shí)考慮了數(shù)據(jù)流形和特征流形的幾何結(jié)構(gòu)，并分別在數(shù)據(jù)空間和特征空間創(chuàng)建兩個(gè)近鄰圖來反映它們各自的分布流形結(jié)構(gòu)，提出了一種雙圖正則化的概念分解框架。在此框架下，首先給出了該雙圖正則化的概念分解模型，其次推導(dǎo)了該模型的交替迭代更新規(guī)則，最后證明了在該交