基于支持張量機(jī)的中文文本分類研究.pdf

1、基于機(jī)器學(xué)習(xí)的文本分類是自然語言處理領(lǐng)域的重要研究方向之一，能夠幫助人們快速、準(zhǔn)確地進(jìn)行信息的獲取。目前大部分機(jī)器學(xué)習(xí)算法采用向量形式進(jìn)行數(shù)據(jù)的表示。相比之下，采用張量形式進(jìn)行數(shù)據(jù)的表示能夠更多地保留多模態(tài)數(shù)據(jù)的內(nèi)在結(jié)構(gòu)信息，并且在面對高維小樣本數(shù)據(jù)時(shí)，有著更強(qiáng)的泛化能力，因此近年來基于張量數(shù)據(jù)的機(jī)器學(xué)習(xí)算法愈發(fā)受到研究人員的重視。
　　本文圍繞支持張量機(jī)與文本分類兩個(gè)主題進(jìn)行展開，著重研究了支持張量機(jī)模型的優(yōu)化，以及優(yōu)化模型下，

2、文本張量空間模型的構(gòu)造問題。主要包含以下幾部分內(nèi)容：
　　1.提出秩r支持張量機(jī)模型。該模型針對秩一映射支持張量機(jī)與支持向量機(jī)的優(yōu)點(diǎn)與局限性提出。采用秩約束的方式控制學(xué)習(xí)模型參數(shù)個(gè)數(shù)，用于處理不同的訓(xùn)練集。針對不同的張量秩定義，給出了CP秩與Tucker秩下的等價(jià)模型，以及相關(guān)優(yōu)化問題的解法。
　　2．提出了秩r支持張量機(jī)近似最優(yōu)秩約束的一種解法，該解法基于對秩r支持張量機(jī)求解過程中交替投影過程的實(shí)質(zhì)的分析。
　　3.

3、提出采用正負(fù)相關(guān)特征的權(quán)重降序交替列填充法，構(gòu)造張量空間模型。該模型構(gòu)造方法基于對文本分類中特征權(quán)重分布情況的分析。
　　4.設(shè)計(jì)了一套可行的中文文本分類系統(tǒng)。該系統(tǒng)結(jié)合了以上三點(diǎn)內(nèi)容以及常見文本分類技術(shù)。系統(tǒng)先通過對文本的預(yù)處理、特征選擇等流程對文本進(jìn)行向量化表示。通過在SVM上初步訓(xùn)練，得到優(yōu)化的張量空間模型與近似最優(yōu)秩約束，進(jìn)一步得到文本的張量化表示。最后輸入秩r支持張量機(jī)進(jìn)行訓(xùn)練，并在測試集上評估。
　　本課題研究成