非單調(diào)線性搜索及其在共軛梯度法和擬牛頓法中的應(yīng)用.pdf

1、最優(yōu)化問(wèn)題在經(jīng)濟(jì)，管理，工程等許多重要領(lǐng)域有著廣泛的應(yīng)用背景．共軛梯度法和擬Newton法是求解最優(yōu)化問(wèn)題的兩類最常用的方法。共軛梯度法算法簡(jiǎn)便，存儲(chǔ)量需求小，收斂速度又比最速下降法快，特別適合求解大規(guī)模問(wèn)題．傳統(tǒng)的Broyden族擬牛頓算法因?yàn)槠淞己玫臄?shù)值效果和快速收斂速度已成為求解中等規(guī)模最優(yōu)化問(wèn)題頗受歡迎的一類算法。 已有的研究中通常采用單調(diào)線性搜索技術(shù)，這種線性搜索方式的一個(gè)主要優(yōu)點(diǎn)是算法產(chǎn)生的函數(shù)值序列單調(diào)遞減．然而，

2、單調(diào)線性搜索一般需要較多的試探步才能獲得步長(zhǎng)．而且，所獲得的步長(zhǎng)有時(shí)會(huì)很?。蒅rippo等人提出的非單調(diào)線性搜索技術(shù)可減少線性搜索試探步，并可獲得較大步長(zhǎng)． 本文，我們將非單調(diào)線性搜索技術(shù)引入MFR，MPRP，CBFGS和MBFGS算法中，證明相應(yīng)算法的全局收斂性．且通過(guò)數(shù)值試驗(yàn)與采用單調(diào)線性搜索技術(shù)的算法進(jìn)行比較．結(jié)果表明，采用非單調(diào)線性搜索技術(shù)的算法具有優(yōu)勢(shì)． 第二章提出一種非單調(diào)MFR算法，證明其全局收斂性．并通