基于圖的半監(jiān)督學(xué)習(xí)模型研究與分類器設(shè)計(jì).pdf

1、在機(jī)器學(xué)習(xí)領(lǐng)域，有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)是兩種常用的學(xué)習(xí)算法，但是他們在處理由于類別標(biāo)注困難帶來的標(biāo)簽數(shù)據(jù)極少、未標(biāo)簽數(shù)據(jù)眾多的分類問題時(shí)效果往往不佳。針對此類問題，半監(jiān)督學(xué)習(xí)近來被提出并獲得廣泛的研究。半監(jiān)督學(xué)習(xí)結(jié)合兩種傳統(tǒng)學(xué)習(xí)算法的優(yōu)勢，能同時(shí)采用標(biāo)簽數(shù)據(jù)和未標(biāo)簽數(shù)據(jù)構(gòu)造分類器，且一般能夠獲得較傳統(tǒng)學(xué)習(xí)算法更好的學(xué)習(xí)效果。本文對半監(jiān)督分類算法開展了較深入的研究，具體工作如下： 文章首先對半監(jiān)督學(xué)習(xí)中的典型算法進(jìn)行了分析，并將其

2、與有監(jiān)督學(xué)習(xí)進(jìn)行比較，發(fā)現(xiàn)半監(jiān)督分類器的分類精度與其模型假設(shè)密切相關(guān)。只有在算法模型假設(shè)能夠較好符合數(shù)據(jù)的真實(shí)結(jié)構(gòu)時(shí)，未標(biāo)簽數(shù)據(jù)的采用能夠幫助提升分類精度；否則，未標(biāo)簽數(shù)據(jù)可能不起作用，甚至起反作用。 其次，本文通過對標(biāo)簽傳遞算法的實(shí)驗(yàn)研究，發(fā)現(xiàn)用隨機(jī)選擇的數(shù)據(jù)作為訓(xùn)練集會(huì)造成算法分類精度的較大波動(dòng)。這說明可通過主動(dòng)選擇較優(yōu)訓(xùn)練集去提升標(biāo)簽傳遞算法的分類精度。而在主動(dòng)學(xué)習(xí)中，分類器可根據(jù)當(dāng)前狀態(tài)主動(dòng)挑選能最大程度提升自身性能的待

3、標(biāo)注數(shù)據(jù)。通過引入此思想，本文提出了結(jié)合主動(dòng)學(xué)習(xí)的標(biāo)簽傳遞算法，并對算法模型及待標(biāo)注數(shù)據(jù)選擇策略開展了研究，使得該算法可動(dòng)態(tài)選擇能最大程度降低標(biāo)簽傳遞算法當(dāng)前分類風(fēng)險(xiǎn)的數(shù)據(jù)，提高訓(xùn)練集的質(zhì)量。在UCI等數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果顯示，訓(xùn)練數(shù)據(jù)數(shù)量相同時(shí)，該算法的分類精度超越了隨機(jī)選擇訓(xùn)練集數(shù)據(jù)的標(biāo)簽傳遞算法。實(shí)驗(yàn)中，我們發(fā)現(xiàn)該算法經(jīng)常選擇聚類中心的數(shù)據(jù)，因此，這些數(shù)據(jù)適合于作為標(biāo)簽傳遞算法的訓(xùn)練集。 基于圖的半監(jiān)督分類算法需構(gòu)造一個(gè)以數(shù)

4、據(jù)為頂點(diǎn)、以數(shù)據(jù)間相似性值為邊的圖。在這種構(gòu)造圖的方法中相似性度量函數(shù)及其參數(shù)不易控制，數(shù)據(jù)的近鄰個(gè)數(shù)也難以選擇。通過對局部線性嵌入算法的研究，我們發(fā)現(xiàn)該算法構(gòu)造線性近鄰時(shí)不采用相似性函數(shù)，并且通過對數(shù)據(jù)局部流形的估算，判斷數(shù)據(jù)是否位于分類間隙附近，可動(dòng)態(tài)調(diào)整數(shù)據(jù)的近鄰個(gè)數(shù)，達(dá)到減少不同類數(shù)據(jù)間連接的目的，進(jìn)而減少標(biāo)簽誤傳遞的概率。結(jié)合這兩個(gè)優(yōu)點(diǎn)，本文提出了基于局部線性嵌入算法構(gòu)建圖的標(biāo)簽傳遞算法。在UCI等數(shù)據(jù)等集上的實(shí)驗(yàn)結(jié)果表明，該