幾類優(yōu)化問(wèn)題的算法及應(yīng)用研究.pdf

1、最優(yōu)化廣泛應(yīng)用于工程設(shè)計(jì)、生產(chǎn)管理、交通運(yùn)輸和政府決策等重要領(lǐng)域,因此優(yōu)化問(wèn)題的求解算法成為備受關(guān)注的研究課題.二階錐規(guī)劃是一類十分重要的非光滑凸規(guī)劃問(wèn)題,它寬廣的應(yīng)用范圍、特殊的錐結(jié)構(gòu)和方便的計(jì)算性,使其具有獨(dú)立的研究?jī)r(jià)值,而且許多優(yōu)化問(wèn)題都可以轉(zhuǎn)化為二階錐規(guī)劃來(lái)求解.二階錐互補(bǔ)問(wèn)題是二階錐規(guī)劃的推廣,包括線性和非線性二階錐互補(bǔ)問(wèn)題.同樣,變分不等式與互補(bǔ)問(wèn)題也是當(dāng)今優(yōu)化問(wèn)題的重要研究領(lǐng)域.
　　 本文主要圍繞上述幾類優(yōu)化熱點(diǎn)

2、問(wèn)題的求解算法以及互補(bǔ)問(wèn)題在支持向量機(jī)中的應(yīng)用進(jìn)行研究,得到的主要成果如下:
　　 (1)對(duì)二階錐規(guī)劃問(wèn)題的求解算法進(jìn)行了研究.首先,針對(duì)線性二階錐規(guī)劃問(wèn)題提出了兩個(gè)求解算法:其一,給出了一個(gè)求解線性二階錐規(guī)劃問(wèn)題的預(yù)估校正光滑牛頓算法,算法產(chǎn)生的迭代序列不需要額外的計(jì)算,而能保持在一個(gè)給定的鄰域內(nèi).算法具有全局收斂性和局部二次收斂性質(zhì).其二,提出一個(gè)求解線性二階錐規(guī)劃問(wèn)題的半光滑非精確牛頓算法,在算法執(zhí)行過(guò)程中,非精確搜索方向

3、允許有適度誤差,從而節(jié)省了計(jì)算時(shí)間和內(nèi)存.該算法是全局收斂和局部超線性收斂的.然后,給出了一個(gè)求解非線性二階錐規(guī)劃問(wèn)題的SQP信賴域篩選算法,該算法避免了一般SQP類算法中使用傳統(tǒng)的具有懲罰項(xiàng)的價(jià)值函數(shù).在適當(dāng)假設(shè)條件下,算法被證明具有全局收斂性質(zhì).
　　 (2)研究了求解二階錐互補(bǔ)問(wèn)題的光滑化方法.首先,分別基于帶光滑參數(shù)的Fischer-Burmeister函數(shù)和對(duì)稱擾動(dòng)的最小值函數(shù),把二階錐互補(bǔ)問(wèn)題轉(zhuǎn)化為一個(gè)非線性方程組,

4、提出了兩個(gè)求解單調(diào)二階錐互補(bǔ)問(wèn)題的光滑牛頓算法.這兩個(gè)算法都具有全局收斂質(zhì).然后,利用一個(gè)新的正則化方法,給出了一個(gè)求解笛卡爾尸0性質(zhì)的二階錐互補(bǔ)問(wèn)題光滑牛頓算法,并證明了算法的全局收斂性和局部超線性收斂性質(zhì).
　　 (3)對(duì)變分不等式問(wèn)題的求解算法進(jìn)行了研究.將變分不等式問(wèn)題轉(zhuǎn)化為一個(gè)帶光滑變量的光滑方程組,給出了一個(gè)求解該問(wèn)題的完全光滑化算法.該算法不僅對(duì)初始點(diǎn)沒(méi)有限制,而且在適當(dāng)?shù)募僭O(shè)條件下具有全局收斂性和局部二次收斂性.

5、初步的數(shù)值試驗(yàn)表明該方法是有效的.
　　 (4)研究了互補(bǔ)問(wèn)題在支持向量機(jī)中的應(yīng)用.首先,簡(jiǎn)化支持向量機(jī)優(yōu)化問(wèn)題得到與之對(duì)偶規(guī)劃等價(jià)的互補(bǔ)問(wèn)題,提出一個(gè)求解該問(wèn)題的一步光滑化分類算法.該算法可以任意選取初始點(diǎn),在每一步迭代中,僅求解一個(gè)線性方程組和執(zhí)行一次線性搜索,且具有二次收斂性.其次,為克服LSVM算法需要求逆矩陣而不適合求解大規(guī)模非線性分類問(wèn)題的缺陷,給出了一個(gè)求解互補(bǔ)支持向量機(jī)的下降算法.新算法不需要計(jì)算任何Hesse矩