基于卷積神經(jīng)網(wǎng)絡(luò)的多標(biāo)簽場(chǎng)景分類(lèi).pdf

1、不同于傳統(tǒng)的分類(lèi)問(wèn)題，多標(biāo)簽分類(lèi)是一類(lèi)更復(fù)雜的分類(lèi)任務(wù)。在傳統(tǒng)的分類(lèi)問(wèn)題中，每個(gè)樣本只有一個(gè)類(lèi)別標(biāo)簽。在多標(biāo)簽分類(lèi)中，每個(gè)樣本可以同時(shí)屬于多個(gè)類(lèi)別。這類(lèi)問(wèn)題在文本分類(lèi)，圖像識(shí)別，醫(yī)學(xué)診斷等領(lǐng)域應(yīng)用廣泛。多標(biāo)簽場(chǎng)景分類(lèi)是多標(biāo)簽分類(lèi)在圖像識(shí)別中的一種應(yīng)用。卷積神經(jīng)網(wǎng)絡(luò)(ConvolutionalNeural Networks，CNN)常常被用于圖像識(shí)別中，也是幾年來(lái)基于深度模型的圖像處理中最常用的模型。目前對(duì)CNN的研究主要集中在深度模型領(lǐng)

2、域，更多的層數(shù)，更復(fù)雜的網(wǎng)絡(luò)是目前的研究趨勢(shì)。然而并不是所有問(wèn)題都需要一個(gè)復(fù)雜的深度網(wǎng)絡(luò)，在一些相對(duì)受限的領(lǐng)域，如場(chǎng)景分類(lèi)，使用相對(duì)簡(jiǎn)單的網(wǎng)絡(luò)就夠了。尤其是一些訓(xùn)練數(shù)據(jù)集比較小的問(wèn)題，淺層網(wǎng)絡(luò)幾乎是必然的選擇。另外，在深度模型的研究中，出現(xiàn)了一些在深度模型上表現(xiàn)很好的技巧，如Relu激活函數(shù)，dropout等，這些技巧對(duì)淺層網(wǎng)絡(luò)的適用性也沒(méi)有人研究。
　　本文將CNN用于多標(biāo)簽場(chǎng)景分類(lèi)。不同于傳統(tǒng)CNN的訓(xùn)練，本文首先介紹使用非監(jiān)

3、督的方法訓(xùn)練CNN的卷積核，包括針對(duì)低分辨率小圖像數(shù)據(jù)集所使用的一些正則化技巧。然后使用CNN提取圖像的特征，使用邏輯回歸來(lái)分類(lèi)，并使用多種評(píng)價(jià)標(biāo)準(zhǔn)來(lái)評(píng)價(jià)分類(lèi)結(jié)果。
　　本文使用非監(jiān)督自動(dòng)編碼器來(lái)訓(xùn)練CNN的卷積核。自動(dòng)編碼器是一個(gè)三層全連接的神經(jīng)網(wǎng)絡(luò)，由于在訓(xùn)練的時(shí)候不需要標(biāo)簽，所以編碼器的訓(xùn)練方法是非監(jiān)督的。編碼器訓(xùn)練的目的是學(xué)習(xí)到輸入數(shù)據(jù)的更好的特征表示，以便用來(lái)訓(xùn)練更好的分類(lèi)器。為了學(xué)到更好的特征表示，本文對(duì)輸入樣本做了Z

4、CA白化，以消除相鄰像素點(diǎn)之間的相關(guān)性，使網(wǎng)絡(luò)隱含層節(jié)點(diǎn)數(shù)遠(yuǎn)多于輸入層，并在訓(xùn)練過(guò)程中對(duì)隱含層節(jié)點(diǎn)的激活數(shù)量加以限制，以學(xué)到稀疏的特征。
　　訓(xùn)練完卷積核后，本文使用邏輯回歸做圖像分類(lèi)。在卷積層上加一個(gè)子采樣層和一個(gè)邏輯回歸層，就組成了本文使用的網(wǎng)絡(luò)結(jié)構(gòu)。子采樣層用于降低特征維度，降低網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性，并能使得輸入特征有一些轉(zhuǎn)換，縮放等的不變性。在這個(gè)網(wǎng)絡(luò)結(jié)構(gòu)中，本文實(shí)驗(yàn)了Relu，dropout等技巧，并在理論上分析了這些技巧的