貝葉斯正規(guī)化BP神經(jīng)網(wǎng)絡(luò)及其在醫(yī)學(xué)中的應(yīng)用.pdf

1、人工神經(jīng)網(wǎng)絡(luò)(ArtificialNeuralNetwork)是一門(mén)新興的邊緣學(xué)科，是生物神經(jīng)網(wǎng)絡(luò)在結(jié)構(gòu)、功能及某些基本特性方面的理論抽象、簡(jiǎn)化和模擬而構(gòu)成的一種信息處理系統(tǒng)。神經(jīng)網(wǎng)絡(luò)具有分布式信息存儲(chǔ)方式、并行式信息處理方式、強(qiáng)大的容錯(cuò)性、自組織、自學(xué)習(xí)、自適應(yīng)能力和非線性處理能力等特性，與傳統(tǒng)醫(yī)學(xué)統(tǒng)計(jì)方法相比，人工神經(jīng)網(wǎng)絡(luò)不需要精確的數(shù)學(xué)模型，沒(méi)有任何對(duì)變量的假設(shè)(如正態(tài)性、獨(dú)立性等)要求，因此可以彌補(bǔ)傳統(tǒng)統(tǒng)計(jì)方法的不足，為解決實(shí)際

2、問(wèn)題提供新的思路和方法。 對(duì)于醫(yī)學(xué)工作者而言，如何構(gòu)建神經(jīng)網(wǎng)絡(luò)模型使其具有較好的泛化能力，并解決實(shí)際問(wèn)題是他們關(guān)注的。本文針對(duì)在醫(yī)學(xué)領(lǐng)域中應(yīng)用廣泛的BP(Back-propagation)神經(jīng)網(wǎng)絡(luò)，介紹了BP神經(jīng)網(wǎng)絡(luò)的基本原理及其改進(jìn)算法。針對(duì)BP算法及其改進(jìn)算法中出現(xiàn)的過(guò)擬合(over-fitting)問(wèn)題，探討了提高BP神經(jīng)網(wǎng)絡(luò)泛化能力的方法，提出了基于貝葉斯正規(guī)化(Bayesianregularization)的算法，在網(wǎng)

3、絡(luò)目標(biāo)函數(shù)中引入表示網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜性的懲罰項(xiàng)，使得在訓(xùn)練優(yōu)化的過(guò)程中降低了網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性，并通過(guò)貝葉斯推理得出目標(biāo)函數(shù)的最優(yōu)化參數(shù)，達(dá)到避免網(wǎng)絡(luò)過(guò)擬合的目的。 本研究在介紹神經(jīng)網(wǎng)絡(luò)基本理論和實(shí)現(xiàn)方法的基礎(chǔ)上，進(jìn)行了理論模擬研究和實(shí)際資料的應(yīng)用研究。模擬研究結(jié)果表明：基于貝葉斯正規(guī)化法的BP神經(jīng)網(wǎng)絡(luò)比其他改進(jìn)算法具有更好的適應(yīng)性，擬合效果及泛化能力都更好。在醫(yī)學(xué)實(shí)例分析中對(duì)神經(jīng)網(wǎng)絡(luò)的構(gòu)建、訓(xùn)練和優(yōu)化進(jìn)行了討論，用貝葉斯正規(guī)化BP神

4、經(jīng)網(wǎng)絡(luò)建立煤礦工人Ⅱ期高血壓患者收縮壓的預(yù)測(cè)模型，模型的決定系數(shù)R2=0.97，預(yù)測(cè)的平均相對(duì)誤差僅為2％，回代及預(yù)測(cè)結(jié)果都好于多元線性回歸模型，表明該網(wǎng)絡(luò)模型不僅能準(zhǔn)確地?cái)M合訓(xùn)練值，而且能更合理的進(jìn)行預(yù)測(cè)未知樣本，具有較好的泛化能力。 研究結(jié)果表明貝葉斯正規(guī)化BP神經(jīng)網(wǎng)絡(luò)有效的避免了神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過(guò)程中的過(guò)擬合問(wèn)題，且當(dāng)實(shí)際資料中樣本量有限或無(wú)法保證代表性時(shí)，使用貝葉斯正規(guī)化方法建立神經(jīng)網(wǎng)絡(luò)可以提高其泛化能力，為實(shí)際工作者正確運(yùn)