高維數(shù)據(jù)的低維流形結(jié)構(gòu)研究.pdf

1、如果把人對(duì)外界的感知表示為高維空間中的點(diǎn)集，那么這些感知輸入之間的統(tǒng)計(jì)相關(guān)性，在幾何學(xué)上表現(xiàn)為數(shù)據(jù)點(diǎn)散布在低維光滑流形上，或在低維光滑流形附近。人能夠從外界的刺激感知到這些固有的低維流形，研究和模擬人的這種感知能力，從有限高維樣本數(shù)據(jù)中學(xué)習(xí)到潛在的低維流形結(jié)構(gòu)，成為眾多計(jì)算機(jī)科學(xué)家的研究目標(biāo)。幾何和拓?fù)涞难芯糠椒橛行幚砀呔S樣本數(shù)據(jù)提供了一條新的有效途徑，對(duì)高維數(shù)據(jù)的低維流形結(jié)構(gòu)的研究成為機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)研究熱點(diǎn)。 本文以微

2、分幾何為數(shù)學(xué)基礎(chǔ)，應(yīng)用幾何與拓?fù)涞姆椒ǎ瑢?duì)低維流形的學(xué)習(xí)理論、流形的嵌入特性、流形的構(gòu)建算法以及流形在半監(jiān)督學(xué)習(xí)中的應(yīng)用等幾個(gè)關(guān)鍵問(wèn)題進(jìn)行了深入的研究，取得了一定的研究成果，并經(jīng)過(guò)充分的實(shí)驗(yàn)驗(yàn)證，為進(jìn)一步的研究和應(yīng)用奠定了基礎(chǔ)。創(chuàng)造性的研究成果主要有： 1.從逆問(wèn)題角度研究了無(wú)監(jiān)督流形學(xué)習(xí)的假設(shè)前提，以及假設(shè)前提下解的存在性和表示形式，并給出流形學(xué)習(xí)的基本算法框架。對(duì)Isomap等無(wú)監(jiān)督流形學(xué)習(xí)算法中的假設(shè)前提——光滑流形與低維

3、參數(shù)空間之間等距映射的存在性進(jìn)行了證明。通過(guò)定義一個(gè)非線性的正向算子，在無(wú)監(jiān)督流形學(xué)習(xí)和逆問(wèn)題之間建立了聯(lián)系，并根據(jù)表示定理，得到無(wú)監(jiān)督流形學(xué)習(xí)問(wèn)題的解的一般表達(dá)形式。 2.根據(jù)Isomap算法對(duì)兩個(gè)典型流形的比較實(shí)驗(yàn)結(jié)果，提出流形嵌入維數(shù)問(wèn)題。從理論上區(qū)分了低維流形的固有維數(shù)與嵌入維數(shù)，給出了二者的關(guān)系。論證了如果數(shù)據(jù)空間存在環(huán)狀流形，則數(shù)據(jù)的固有維數(shù)要小于嵌入維數(shù)。根據(jù)流形定向理論，提出一種環(huán)狀流形發(fā)現(xiàn)算法。在多姿態(tài)三維對(duì)象

4、的實(shí)驗(yàn)中驗(yàn)證了算法的有效性。 3.在極限意義下提出一種新的主曲線定義，并給出構(gòu)建算法。定義建立在局部切空間基礎(chǔ)之上，證明了新的主曲線不僅滿足自相合特性，而且對(duì)于任意的開(kāi)覆蓋，主曲線唯一存在。根據(jù)新的定義，提出了一種主曲線的構(gòu)建算法，并證明了算法的收斂性。多種數(shù)據(jù)集上的模擬實(shí)驗(yàn)結(jié)果表明，根據(jù)新的主曲線定義提出的算法能夠有效地發(fā)現(xiàn)主曲線。 4.提出一種流形上正則化半監(jiān)督分類算法——ReguSCoM。算法針對(duì)近鄰圖中沒(méi)有考慮已