基于協(xié)同優(yōu)化的非線性核集成方法及其應(yīng)用研究.pdf

1、基于核函數(shù)的方法是從統(tǒng)計(jì)學(xué)習(xí)理論中發(fā)展而來的非線性機(jī)器學(xué)習(xí)研究方法。很多線性的方法，例如特征抽取、相關(guān)性理論、分類及回歸等，都可基于核化理論推廣為非線性方法。“核技巧”為很多非線性問題的解決提供了一種新的思路，并被廣泛應(yīng)用于復(fù)雜疾病的誘因識(shí)別、基因功能相關(guān)分析、以及基因背后的非線性特征分析等領(lǐng)域，有著較高的理論和應(yīng)用價(jià)值。然而，核函數(shù)的機(jī)器學(xué)習(xí)方法又面臨著很多的挑戰(zhàn):核函數(shù)、核參數(shù)選擇直接影響核化模型的精確性和推廣能力;大數(shù)據(jù)量的核矩陣

2、計(jì)算直接影響著核方法的運(yùn)行速度;各種核方法的理論拓展和實(shí)際應(yīng)用推廣性能評價(jià)等問題，目前都還沒有統(tǒng)一有效的解決方案。
　　 本論文緊緊圍繞核函數(shù)的機(jī)器學(xué)習(xí)方法，針對以上問題，結(jié)合協(xié)同進(jìn)化優(yōu)化思想，對常見的分類、回歸、雙聚類以及相關(guān)性問題進(jìn)行了研究。首先，對核函數(shù)理論、各種協(xié)同進(jìn)化智能技術(shù)及其應(yīng)用領(lǐng)域發(fā)展進(jìn)行了綜述，指出了目前發(fā)展存在的問題以及將來的發(fā)展方向。其次，研究了核函數(shù)機(jī)制下非線性分類和回歸框架;探索了基于此框架下，大數(shù)據(jù)量

3、生物信息的分類和回歸預(yù)測的應(yīng)用;然后，應(yīng)用核函數(shù)技巧拓展線性相關(guān)性和聚類方法，分別提出了核相關(guān)性和核雙聚類方法，并將它們應(yīng)用于基因調(diào)控網(wǎng)絡(luò)和同源基因的預(yù)測研究，為探索基因信息背后的非線性特征提供了新的視角。本論文的主要研究成果體現(xiàn)在以下幾個(gè)方面:
　　 (1)對于分類，提出了融合數(shù)據(jù)降維、模型優(yōu)化和分類三者為一體的核集成分類器。該分類器通過應(yīng)用核主元分析去除復(fù)共線性噪聲與冗余相關(guān)信息，進(jìn)行多屬性非線性降維;基于協(xié)同免疫克隆優(yōu)化算

4、法對核整體模型進(jìn)行參數(shù)設(shè)置;應(yīng)用支持向量機(jī)獲取高維特征空間中的最優(yōu)分類面。該方法可自動(dòng)獲取不同數(shù)據(jù)的線性和非線性分類優(yōu)化模型。通過大量模式數(shù)據(jù)分類應(yīng)用分析的實(shí)驗(yàn)結(jié)果顯示，該分類器在準(zhǔn)確性和推廣性上優(yōu)于線性分類器和神經(jīng)網(wǎng)絡(luò)方法，這種核集成分類模型在高維空間中會(huì)以樣本最少的屬性獲得最好的分類效果。最后將這種核集成分類器應(yīng)用于原發(fā)性開角型青光眼的鑒別，對比于臨床結(jié)果和其他預(yù)測方法，試驗(yàn)結(jié)果顯示，提出核集成分類器取得較好的鑒別精度，該方法是準(zhǔn)確

5、和有效的。
　　 (2)對于回歸，針對支持向量回歸機(jī)核函數(shù)的不同選擇，回歸預(yù)測性能差異大和運(yùn)行速度慢等問題，結(jié)合協(xié)同粒子群和區(qū)間劃分思想，提出自適應(yīng)核化粒子群支持向量回歸區(qū)間預(yù)測器，并從理論和實(shí)驗(yàn)上探討了這種新的區(qū)間支持向量回歸機(jī)的優(yōu)化性能。函數(shù)實(shí)驗(yàn)驗(yàn)證結(jié)果表明，本論文提出的全局自適應(yīng)核區(qū)間預(yù)測器無論在運(yùn)行速度還是在回歸預(yù)測精度上，都優(yōu)于一般支持向量回歸，后向神經(jīng)網(wǎng)絡(luò)和三次樣條曲線擬合預(yù)測方法。將其模型應(yīng)用于癌患者生存預(yù)后預(yù)測，

6、取得了較高的擬合準(zhǔn)確度。
　　 (3)對于聚類，提出了非線性核雙聚類架構(gòu)，解決了局部非線性相關(guān)信息的提取，獲得了更為準(zhǔn)確的聚類。針對最為常用的高斯核，從理論上描述了高斯核雙聚類特性。結(jié)合擴(kuò)展人工免疫克隆系統(tǒng)算法，提出了快速協(xié)同免疫克隆Memetic核雙聚類(CICMKB)算法，為快速獲取非線性核雙聚類提供了應(yīng)用基礎(chǔ)。通過基因共調(diào)控協(xié)同信息提取實(shí)驗(yàn)的驗(yàn)證，相對于標(biāo)準(zhǔn)遺傳算法和人工免疫算法算法，CICMKB算法的預(yù)測誤差最小，可發(fā)現(xiàn)

7、更多的雙聚類基因，同時(shí)我們還給出了生物意義解釋。
　　 (4)對于相關(guān)性分析，拓展了線性Pearson相關(guān)系數(shù)到高維特征空間，提出用于檢測數(shù)據(jù)間非線性交互關(guān)系的核相關(guān)系數(shù)，并給定了統(tǒng)計(jì)意義解釋。為了評價(jià)這種核相關(guān)交互測度，基于圖論構(gòu)建了一種協(xié)同自適應(yīng)酵母菌基因非線性調(diào)控網(wǎng)絡(luò)。通過與經(jīng)典的線性Pearson網(wǎng)絡(luò)對比，酵母菌基因調(diào)控網(wǎng)絡(luò)的邊、節(jié)點(diǎn)、團(tuán)等分布特征被詳細(xì)分析和討論，并解釋了這些非線性基因相關(guān)性生物意義。通過對十個(gè)基因逆向