結(jié)合標(biāo)記相關(guān)性的多標(biāo)記分類算法研究.pdf

1、在傳統(tǒng)的監(jiān)督學(xué)習(xí)中，每個(gè)對(duì)象只隸屬于一個(gè)標(biāo)記。然而，在現(xiàn)實(shí)世界中，一個(gè)對(duì)象可能同時(shí)與多個(gè)標(biāo)記相關(guān)。例如，一幅圖像可能同時(shí)具有“海洋”、“水”等標(biāo)記，一篇文檔可能同時(shí)標(biāo)記為“H7N9”、“禽流感”、“發(fā)熱”和“咳嗽”等。機(jī)器學(xué)習(xí)中的多標(biāo)記學(xué)習(xí)是研究此類問題的一種學(xué)習(xí)框架，備受研究者的關(guān)注，而如何充分挖掘和利用標(biāo)記之間的相關(guān)性是其核心研究?jī)?nèi)容。研究者們提出了一系列利用標(biāo)記相關(guān)性的多標(biāo)記學(xué)習(xí)方法并在許多領(lǐng)域得以成功應(yīng)用，但大多考慮成對(duì)標(biāo)記之間

2、的相關(guān)性且有些假設(shè)標(biāo)記相關(guān)性是對(duì)稱的，而針對(duì)標(biāo)記相關(guān)性的挖掘和利用的研究工作，尤其是高階非對(duì)稱的標(biāo)記相關(guān)性，還相對(duì)較少。為此，本文圍繞“高階非對(duì)稱的標(biāo)記相關(guān)性利用”和“通過學(xué)習(xí)自動(dòng)挖掘標(biāo)記之間的相關(guān)性并加以利用”這兩個(gè)方面展開研究，主要工作如下:
　　1.提出了一種標(biāo)記相關(guān)性和多標(biāo)記分類的兩階段學(xué)習(xí)算法(TMLC)。該算法先采用l1稀疏編碼方法，在標(biāo)記空間中求出高階非對(duì)稱的標(biāo)記相關(guān)性矩陣;再構(gòu)建基于標(biāo)記相關(guān)性的多標(biāo)記分類和特征選擇

3、統(tǒng)一學(xué)習(xí)模型框架。在多標(biāo)記數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果驗(yàn)證了TMLC算法的有效性。
　　2.提出了一種標(biāo)記協(xié)方差和多標(biāo)記分類的聯(lián)合學(xué)習(xí)算法(JLSML)。該算法引入一個(gè)虛擬標(biāo)記作為樣本的相關(guān)標(biāo)記集和不相關(guān)標(biāo)記集的自然分割點(diǎn)，并構(gòu)建標(biāo)記協(xié)方差和多標(biāo)記分類的聯(lián)合學(xué)習(xí)模型，將標(biāo)記協(xié)方差的學(xué)習(xí)、分類模型的訓(xùn)練以及標(biāo)記集的分割統(tǒng)一在該模型框架中。在多標(biāo)記數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果驗(yàn)證了JLSML算法的有效性。
　　3.提出了標(biāo)記相關(guān)性和多標(biāo)記分類的聯(lián)合

4、學(xué)習(xí)算法(JMLLC和SLMLC)。本文試圖通過學(xué)習(xí)自動(dòng)發(fā)現(xiàn)和利用高階非對(duì)稱的標(biāo)記相關(guān)性，并且構(gòu)建標(biāo)記相關(guān)性和多標(biāo)記分類聯(lián)合學(xué)習(xí)模型框架，提出了JMLLC和SLMLC算法。JMLLC算法同時(shí)學(xué)習(xí)標(biāo)記相關(guān)性矩陣和權(quán)重矩陣，并選擇了兩種不同的損失函數(shù)（羅杰斯特回歸與最小二乘損失函數(shù)）。SLMLC算法將權(quán)重矩陣分成稀疏矩陣與低秩矩陣的和，其中稀疏矩陣用來獲得各個(gè)標(biāo)記所特有的特征子集而低秩矩陣用于獲得所有標(biāo)記所共享的特征子空間;然后在統(tǒng)一學(xué)習(xí)模

5、型中同時(shí)學(xué)習(xí)高階非對(duì)稱的標(biāo)記相關(guān)性矩陣、稀疏矩陣以及低秩矩陣。在多標(biāo)記數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果驗(yàn)證了JMLLC和SLMLC算法的有效性。
　　4.提出了一種缺失標(biāo)記下基于特征選擇的多標(biāo)記分類算法(MLMF)。在某些實(shí)際應(yīng)用中，獲得具有完全標(biāo)記的樣本較困難，大量的樣本只有部分標(biāo)記（即有些標(biāo)記是缺失的)。此外，大多數(shù)多標(biāo)記分類算法通常難以同時(shí)處理缺失標(biāo)記和標(biāo)記相關(guān)性。為此，本文提出了MLMF算法，同時(shí)考慮缺失標(biāo)記和標(biāo)記相關(guān)性并加入了權(quán)重矩陣