非負(fù)低秩組稀疏矩陣分解及其圖像檢索應(yīng)用.pdf

1、大數(shù)據(jù)時代，人類在生產(chǎn)、生活中積累了大量的數(shù)據(jù)，但是真正有用的信息卻相對較少，急需發(fā)展大數(shù)據(jù)挖掘技術(shù)。國家“互聯(lián)網(wǎng)+”戰(zhàn)略的推進，將更為廣泛的積累數(shù)據(jù)，尤其是互聯(lián)網(wǎng)上傳播的音視頻、圖片、網(wǎng)頁等，呈爆炸式增長趨勢，大數(shù)據(jù)挖掘?qū)⑦@些數(shù)據(jù)轉(zhuǎn)化成可資人使用的信息。人類基因組計劃、蛋白質(zhì)組計劃和腦計劃的推進，生物數(shù)據(jù)迅速積累，大數(shù)據(jù)挖掘利用微觀世界的數(shù)據(jù)協(xié)助醫(yī)療、促進健康。
　　在求解大數(shù)據(jù)挖掘難題中，機器學(xué)習(xí)技術(shù)的發(fā)展給人類帶來了曙光。近

2、年來，深度學(xué)習(xí)技術(shù)尤其引人矚目！但是，深度學(xué)習(xí)技術(shù)需要大量的樣本訓(xùn)練模型，對少量的樣本做推理和預(yù)測，這種約束過于苛刻。傳統(tǒng)的機器學(xué)習(xí)技術(shù)對訓(xùn)練數(shù)據(jù)的規(guī)模約束較輕，不失為目前最流行的深度學(xué)習(xí)技術(shù)的有益補充。因此，本文探討傳統(tǒng)機器學(xué)習(xí)技術(shù)在大數(shù)據(jù)挖掘中的應(yīng)用。
　　傳統(tǒng)的機器學(xué)習(xí)技術(shù)琳瑯滿目，如支持向量機、線性判別分析、K-均值聚類等，它們在處理高維數(shù)據(jù)時因為冗余特征而性能受損，因此需要發(fā)展數(shù)據(jù)降維方法從冗余的高維數(shù)據(jù)中提取關(guān)鍵特征。

3、主成分分析是一種典型的數(shù)據(jù)降維方法，雖然它性能優(yōu)異，但是在處理非負(fù)數(shù)據(jù)時，非負(fù)矩陣分解因提取局部特征而性能更優(yōu)。
　　非負(fù)矩陣分解（Non-negative Matrix Factorization，NMF）受到國內(nèi)外研究人員的廣泛重視和廣泛應(yīng)用，然而它不能在捕捉樣本數(shù)據(jù)類內(nèi)關(guān)系的同時保持不受異常值的影響。本文提出一種新的非負(fù)矩陣分解方法，即非負(fù)低秩組稀疏矩陣分解（Non-negative Low-rank and Group-s

4、parse Matrix Factorization，NLRGS），主要工作歸納如下：
　　1）低秩表達稀疏分解可以從被污染的觀測數(shù)據(jù)恢復(fù)數(shù)據(jù)的低秩部分同時捕捉散點，也就是稀疏成分。為了獲得樣本類內(nèi)關(guān)系、識別出異常值和保留NMF的非負(fù)性和基于部分的表達特性，NLRGS在NMF基礎(chǔ)上加入低秩約束和組稀疏約束。
　　2）NLRGS的目標(biāo)函數(shù)是非凸的，不易求解，包含多個等式約束以及低秩約束和組稀疏約束，本文提出用增廣拉格朗日方法去

5、除等式約束為無約束的算法求解問題，對目標(biāo)函數(shù)進行優(yōu)化求解，構(gòu)造NLRGS的求解算法。
　　3）將 NLRGS用于基于內(nèi)容的圖像檢索應(yīng)用中的聚類步驟，并針對 NLRGS求解過程改進圖像檢索的編碼方式。
　　4）為了解決大規(guī)模圖像檢索問題，提出并行化NLRGS并將使用旋轉(zhuǎn)尺度不變性特征的圖像檢索流程并行化。
　　數(shù)值實驗結(jié)果表明，NLRGS的圖像聚類性能不僅在人臉數(shù)據(jù)上優(yōu)于傳統(tǒng)NMF方法，圖像檢索中效果也優(yōu)于傳統(tǒng)的基于K-