一類大規(guī)模最優(yōu)化問(wèn)題的并行BFGS算法.pdf

1、在求解無(wú)約束最優(yōu)化問(wèn)題的眾多算法中，擬牛頓法是頗受歡迎的一類算法.尤其是用于求解中小規(guī)模問(wèn)題時(shí)該類算法具有較好的數(shù)值效果.BFGS算法被認(rèn)為是數(shù)值效果最好的擬牛頓法，其收斂理論的研究也取得了很好的成果.在一定的條件下，BFGS算法具有全局收斂性和超線性收斂速度.然而，對(duì)于大規(guī)模最優(yōu)化問(wèn)題來(lái)求解，包括BFGS算法在內(nèi)擬牛頓法具有明顯的缺陷.其主要問(wèn)題之一在于擬牛頓法產(chǎn)生的矩陣不能保持目標(biāo)函數(shù)f(x)的Hessian陣的稀疏性.有許多的例子

2、表明，一旦處理問(wèn)題很大時(shí)，一些對(duì)小規(guī)模問(wèn)題非常成功的算法變得毫無(wú)吸引力.究其原因，主要是由于在中小型問(wèn)題一些不太重要的因素在求解大規(guī)模問(wèn)題時(shí)，變得代價(jià)很高. 隨著速度更快及更復(fù)雜的計(jì)算機(jī)的出現(xiàn)，增強(qiáng)了我們的計(jì)算處理能力.同時(shí)也為我們?cè)O(shè)計(jì)算法帶來(lái)了新的課題.并行計(jì)算機(jī)的發(fā)展為求解大規(guī)模最優(yōu)化問(wèn)題提供了一條新途徑.對(duì)求解中小規(guī)模問(wèn)題中數(shù)值效果好的算法并行化以用于大規(guī)模問(wèn)題的求解受到了廣泛歡迎. 本文在求解非線性方程組的并行B