非負(fù)矩陣分解及其在非均衡數(shù)據(jù)分類中的應(yīng)用.pdf

1、非負(fù)矩陣分解(NMF)是一種處理大規(guī)模高維數(shù)據(jù)的矩陣分解方法，它以非負(fù)約束和局部表示等獨(dú)特的優(yōu)勢(shì)吸引了眾多研究者的關(guān)注，并被廣泛地應(yīng)用于數(shù)據(jù)挖掘、計(jì)算機(jī)視覺和模式識(shí)別等領(lǐng)域。此外，實(shí)際的分類問題中存在很多非均衡數(shù)據(jù)，包括密度不均衡、類別不均衡和常見的樣本數(shù)目不均衡等情況?；诖?，本文重點(diǎn)研究了基于數(shù)據(jù)結(jié)構(gòu)信息的非負(fù)矩陣分解算法和面向非均衡數(shù)據(jù)分類的非負(fù)矩陣分解算法。
　　首先，概述了非負(fù)矩陣分解及非均衡數(shù)據(jù)分類的基礎(chǔ)理論。給出了N

2、MF基本算法、數(shù)學(xué)求解方法，以及經(jīng)典的衍生算法；并總結(jié)了數(shù)目不均衡數(shù)據(jù)的分類難點(diǎn)及常用的抽樣處理方法。
　　其次，針對(duì)基于圖信息的非負(fù)矩陣分解僅用歐式距離來衡量樣本鄰域結(jié)構(gòu)的局限性，將鄰域樣本相似度引入非負(fù)矩陣分解，提出一種基于鄰域樣本相似度的非負(fù)矩陣分解算法(NSS-NMF)。該方法通過引入鄰域協(xié)方差矩陣來計(jì)算鄰域樣本相似度，對(duì)于鄰域結(jié)構(gòu)相似的樣本點(diǎn)，其分解所得的系數(shù)矩陣的約束項(xiàng)被賦予較高的權(quán)值，以適應(yīng)于樣本密度不均衡的情況；進(jìn)

3、一步，引入鄰域類標(biāo)相似度，并考慮基向量的正交性，提出一種基于鄰域相似度的非負(fù)矩陣分解算法(NS-NMF)。該方法在考慮鄰域樣本相似度的基礎(chǔ)上，根據(jù)鄰域樣本的已知類標(biāo)信息構(gòu)建鄰域類標(biāo)分布矩陣，這樣組合得到的鄰域相似度有效地兼顧到數(shù)據(jù)類別分布不均衡的情況。實(shí)驗(yàn)結(jié)果表明，上述基于數(shù)據(jù)結(jié)構(gòu)信息的非負(fù)矩陣分解算法可以獲得比傳統(tǒng)方法更好的聚類分類性能。
　　最后，針對(duì)常見的非均衡數(shù)據(jù)問題（即樣本數(shù)目不均衡），提出一種新的加權(quán)非負(fù)矩陣分解算法(

4、WNMF)。該方法通過計(jì)算每類樣本數(shù)在總樣本數(shù)中的比例，求其倒數(shù)作為訓(xùn)練樣本的權(quán)值引入非負(fù)矩陣分解，因此在保持了多數(shù)類分類準(zhǔn)確性的同時(shí)，有效地提升了少數(shù)類樣本的分類性能。此外，結(jié)合NS-NMF算法考慮了鄰域結(jié)構(gòu)信息的優(yōu)點(diǎn)，提出一種基于非負(fù)矩陣分解的混合重采樣算法(HS-NMF)。該方法先通過NS-NMF將數(shù)據(jù)集映射到更加可分的子空間，再通過經(jīng)典的過采樣、欠采樣技術(shù)改善數(shù)據(jù)的不均衡程度。實(shí)驗(yàn)結(jié)果表明，將非負(fù)矩陣分解應(yīng)用于非均衡數(shù)據(jù)分類中，