基于特征提取和特征選擇的級(jí)聯(lián)深度學(xué)習(xí)模型研究.pdf

1、特征學(xué)習(xí)是機(jī)器學(xué)習(xí)中一個(gè)重要研究方向，好的特征可以提供數(shù)據(jù)的語(yǔ)義和結(jié)構(gòu)信息，使簡(jiǎn)單的任務(wù)模型也能取得良好的學(xué)習(xí)效果。區(qū)別于使用淺層的觀測(cè)特征和人工設(shè)計(jì)特征的方法，深度學(xué)習(xí)是一種可以從數(shù)據(jù)中自動(dòng)學(xué)習(xí)特征的方法，其所學(xué)習(xí)到的特征往往具有較高的抽象性和語(yǔ)義性。通過(guò)逐層變換，深度模型可以在不同層抽象出數(shù)據(jù)的不同表示，從而很好的適應(yīng)于機(jī)器學(xué)習(xí)的各種任務(wù)中。現(xiàn)有的深度學(xué)習(xí)方法大多采用特征變換、非線性操作和特征選擇（約簡(jiǎn)）的多層迭代模型，所解決的問(wèn)題

2、也多集中在具有二維空間結(jié)構(gòu)意義的領(lǐng)域，而對(duì)于一般的向量特征卻尚無(wú)有效的應(yīng)對(duì)方法。
　　為解決普通向量特征的學(xué)習(xí)問(wèn)題，本文構(gòu)建起一個(gè)通用有效的級(jí)聯(lián)深度模型。為此本文首先對(duì)模型中用到的特征選擇方法進(jìn)行了研究，提出了基于L2, p范數(shù)約束的非凸正則化特征選擇模型，給出了非凸問(wèn)題的求解算法。由于發(fā)掘并利用了樣本特征空間內(nèi)相互表示的特性，該方法可以有效的進(jìn)行特征選擇的任務(wù)。
　　其次，通過(guò)組合一種通用的特征變換方法和所提出的特征選擇方