虛擬樣本生成技術(shù)及建模應(yīng)用研究.pdf

1、“大數(shù)據(jù)”時代，在很多領(lǐng)域，數(shù)據(jù)海量，知識貧乏，需要通過數(shù)據(jù)挖掘發(fā)現(xiàn)知識，數(shù)據(jù)驅(qū)動建模成為研究熱點，而數(shù)據(jù)樣本個數(shù)不充分、樣本代表性不典型或者樣本分布不均勻等嚴重制約數(shù)據(jù)驅(qū)動建模的質(zhì)量。在大數(shù)據(jù)背景下，不可忽視的一個重要問題就是大數(shù)據(jù)、小樣本問題。這個問題主要源于數(shù)據(jù)獲取成本較高、或數(shù)據(jù)重復(fù)或發(fā)生概率較小等原因，致使面臨有用數(shù)據(jù)有限?；谛颖救绾芜M行有效建模是計算智能領(lǐng)域的一個重要研究方向，具有十分重要的理論研究意義和應(yīng)用價值。

2、>　　解決小樣本問題，目前學(xué)術(shù)界主要有基于灰色理論與機器學(xué)習的方法和生成虛擬樣本的方法等兩種途徑。基于小樣本數(shù)據(jù)產(chǎn)生新的有效數(shù)據(jù)是補充數(shù)據(jù)的一種有效方法，虛擬樣本生成技術(shù)是解決小樣本問題的重要研究方向。在大量文獻閱讀、歸納、總結(jié)的基礎(chǔ)上，本文將針對監(jiān)督式和非監(jiān)督式機器學(xué)習算法所對應(yīng)的標簽數(shù)據(jù)和無標簽數(shù)據(jù)的小樣本問題，開展基于小樣本的虛擬樣本產(chǎn)生、優(yōu)化和應(yīng)用研究，以產(chǎn)生充足的有效數(shù)據(jù)集，進而開展神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和算法研究以提出數(shù)據(jù)驅(qū)動的智能建

3、模新方法，并開展工程建設(shè)費用風險分析應(yīng)用研究。本文的主要研究內(nèi)容如下:
　　(1)基于整體擴散技術(shù)的虛擬樣本生成新方法。整體趨勢擴散技術(shù)是一種有效的基于分布的虛擬樣本生成技術(shù)，但現(xiàn)有技術(shù)只考慮了在原始樣本區(qū)域和擴散區(qū)域采用同一種數(shù)據(jù)分布方法產(chǎn)生虛擬樣本，并且增加虛擬輸入屬性使輸入空間倍增。本文在此基礎(chǔ)上，在已知小樣本區(qū)域采用不均勻分布、在拓展區(qū)域采用均勻分布兩種方式相結(jié)合，通過多分布整體擴散技術(shù)推估小樣本屬性可接受范圍，同時為了不

4、增加輸入屬性，不再求取隸屬度函數(shù)值代表樣本點發(fā)生的可能性作為模型的虛擬輸入屬性，由此形成了一種更有效的虛擬樣本產(chǎn)生新機制，提出了一種新穎的多分布整體趨勢擴散技術(shù)(MD-MTD)。通過標準函數(shù)和工業(yè)數(shù)據(jù)集驗證了所提方法的有效性。
　　(2)基于優(yōu)化技術(shù)的虛擬樣本生成新方法。為了解決虛擬樣本的優(yōu)化問題，在MD-MTD的基礎(chǔ)上，本文提出了基于三角隸屬函數(shù)的信息擴散方法(TMIE)，進而提出了一種新的確定上下拓展區(qū)域界限的方法，基于改進的

5、MD-MTD產(chǎn)生虛擬樣本，采用PSO對所產(chǎn)生的輸入屬性的虛擬樣本進行優(yōu)化計算，獲得更合適的虛擬樣本，由此提出了PSO-MD-MTD方法。通過標準函數(shù)和工業(yè)數(shù)據(jù)集驗證了所提方法的有效性。
　　(3)基于插值的虛擬樣本生成新方法?；诜植嫉奶摂M樣本生成技術(shù)是基于小樣本建立的模型，由此本文研究建立一種合理有效的基于小樣本的神經(jīng)網(wǎng)絡(luò)模型，進而根據(jù)所建模型的線性和非線性結(jié)構(gòu)特點進行虛擬樣本的生成。為此，本文提出了一種極限學(xué)習機隱含層插值的虛

6、擬樣本生成方法(IVSG)，對極限學(xué)習機隱含層的輸出數(shù)據(jù)進行中值插值產(chǎn)生相應(yīng)的虛擬樣本，再由隱含層輸出數(shù)據(jù)的虛擬樣本前后反推輸出層輸出和輸入層輸入空間的虛擬數(shù)據(jù)。通過標準函數(shù)和工業(yè)數(shù)據(jù)集驗證了所提方法的有效性，并對IVSG、PSO-MD-MTD和MD-MTD進行比較，分析不同方法的適用性。
　　(4)基于偏最小二乘法的函數(shù)連接神經(jīng)網(wǎng)絡(luò)建模新方法。在解決數(shù)據(jù)樣本有效性問題的基礎(chǔ)上，利用數(shù)據(jù)驅(qū)動建模思想來挖掘數(shù)據(jù)背后隱藏的知識就是一項

7、十分重要的工作。為了有效解決函數(shù)連接神經(jīng)網(wǎng)絡(luò)中共線性數(shù)據(jù)問題和有效地挖掘有限數(shù)據(jù)背后的知識信息，本文結(jié)合極限學(xué)習機模型，提出采用偏最小二乘學(xué)習算法取代函數(shù)連接神經(jīng)網(wǎng)絡(luò)原模型誤差反向傳播算法來求取模型參數(shù)，由此提出了一種基于偏最小二乘學(xué)習算法的函數(shù)連接神經(jīng)網(wǎng)絡(luò)模型（PLSR-FLNN），通過兩個工業(yè)實例數(shù)據(jù)集驗證了所提方法的有效性，與其它四種建模方法比較驗證了所提方法的先進性。
　　(5)基于蒙特卡洛方法擴充樣本實現(xiàn)工程建設(shè)費用風險

8、分析與評估。在解決監(jiān)督學(xué)習中數(shù)據(jù)和建模問題的基礎(chǔ)上，本文針對非監(jiān)督學(xué)習中的數(shù)據(jù)問題開展研究工作。重點探討Monte Carlo在工程建設(shè)費用風險分析中的不確定性小樣本問題，提出基于蒙特卡洛模擬的樣本補充方法，在此基礎(chǔ)上，根據(jù)數(shù)據(jù)樣本估計費用項的概率分布和概率密度函數(shù)，同時采用蒙特卡洛模擬和市場因素驅(qū)動，并結(jié)合李克特量表分析法，對各影響因素進行綜合分析與評價，由此提出一種實用的工程建設(shè)費用風險分析方法，通過實際工程案例驗證了所提方法的有效