非凸優(yōu)化問題的神經(jīng)網(wǎng)絡(luò)優(yōu)化算法與應(yīng)用的研究.pdf

1、優(yōu)化問題在科學(xué)和工程應(yīng)用中隨處可見。神經(jīng)網(wǎng)絡(luò)能獲得優(yōu)化問題的實(shí)時(shí)解，所以利用神經(jīng)網(wǎng)絡(luò)對優(yōu)化問題求解已經(jīng)得到了廣泛的關(guān)注。
　　本文針對偽凸優(yōu)化問題與非凸二次優(yōu)化問題兩類情形，基于投影理論，極值映射以及法錐相關(guān)性質(zhì)，分別構(gòu)造離散和連續(xù)型神經(jīng)網(wǎng)絡(luò)的求解算法;并探討了其在求解支持向量機(jī)中的應(yīng)用。全文共分以下三個(gè)部分:
　　針對偽凸優(yōu)化問題，提出了一個(gè)離散型神經(jīng)網(wǎng)絡(luò)模型。首先，利用Karush-Kuhn-Tucker(KKT)條件和

2、投影理論構(gòu)造投影方程，使得投影方程的解與優(yōu)化問題的解一一對應(yīng);進(jìn)一步基于投影方程建立離散神經(jīng)網(wǎng)絡(luò);理論結(jié)果表明，網(wǎng)絡(luò)的平衡點(diǎn)與優(yōu)化問題的最優(yōu)解相對應(yīng)，且網(wǎng)絡(luò)具有全局指數(shù)收斂性。相比于連續(xù)網(wǎng)絡(luò)，本文所構(gòu)造的網(wǎng)絡(luò)結(jié)構(gòu)簡單，減少了計(jì)算的復(fù)雜度;所得理論結(jié)果保證了網(wǎng)絡(luò)能夠有效求解偽凸優(yōu)化問題。最后，利用數(shù)值算例進(jìn)行仿真，數(shù)值結(jié)果表明了所設(shè)計(jì)的網(wǎng)絡(luò)求解偽凸優(yōu)化問題的有效性。
　　針對非凸二次規(guī)劃問題，首先根據(jù)規(guī)劃問題的等式約束與不等式約束，

3、分別構(gòu)造了不同的罰函數(shù)。然后，利用極值映射以及正則函數(shù)的相關(guān)性質(zhì)構(gòu)造一微分包含形式的神經(jīng)網(wǎng)絡(luò)模型。針對所構(gòu)造的網(wǎng)絡(luò)模型，基于微分包含相關(guān)性質(zhì)證明了罰函數(shù)沿著所構(gòu)造的網(wǎng)絡(luò)能在有限時(shí)間收斂至可行域內(nèi)。其次，對網(wǎng)絡(luò)的平衡點(diǎn)與臨界點(diǎn)的一致性進(jìn)行了證明，并基于切錐與法錐的性質(zhì)分析了優(yōu)化問題的最優(yōu)點(diǎn)集與臨界點(diǎn)集之間的關(guān)系。最后，在適當(dāng)?shù)募僭O(shè)條件下，對網(wǎng)絡(luò)的收斂性進(jìn)行了嚴(yán)格的證明。
　　針對支持向量機(jī)的分類與回歸問題導(dǎo)出的二次規(guī)劃問題，利用所構(gòu)