自適應(yīng)非單調(diào)信賴(lài)域法.pdf

1、信賴(lài)域法具有很強(qiáng)的全局收斂性，其收斂性的證明不要求對(duì)函數(shù)作較強(qiáng)的假設(shè)，不要求初始點(diǎn)靠近最優(yōu)點(diǎn)，也不要求海森矩陣保持正定，因而備受優(yōu)化領(lǐng)域?qū)＜业年P(guān)注。雖然信賴(lài)域法具有全局收斂性，但是收斂速度并不一定快，尤其是在一個(gè)很窄的彎谷時(shí)，會(huì)產(chǎn)生鋸齒現(xiàn)象。對(duì)于無(wú)約束優(yōu)化問(wèn)題的信賴(lài)域算法，其關(guān)鍵是子問(wèn)題中二次模型的逼近精度即可接受比率和信賴(lài)域半徑大小的選擇。 本文采用張洪超等提出的帶凸組合的非單調(diào)技巧調(diào)節(jié)信賴(lài)域法中的可接受比率，可以避免鋸齒現(xiàn)象

2、的產(chǎn)生。對(duì)于信賴(lài)域半徑進(jìn)行如下修改：用非負(fù)整數(shù)P自動(dòng)調(diào)節(jié)信賴(lài)域半徑，其中信賴(lài)域半徑ακ=cp‖gκ‖γ。之所以選用這個(gè)模型是因?yàn)椋涸谒械淖赃m應(yīng)信賴(lài)域法中都是用常數(shù)C，梯度信息和目標(biāo)函數(shù)的二次信息來(lái)構(gòu)造信賴(lài)域半徑。但是在目標(biāo)函數(shù)的二次信息中也含有梯度信息，并且在數(shù)值試驗(yàn)中發(fā)現(xiàn)常數(shù)C并不敏感，因此可以只用梯度信息調(diào)節(jié)信賴(lài)域半徑。又因?yàn)槌跏夹刨?lài)域半徑也會(huì)影響算法的效率，并且初始信賴(lài)域半徑的選擇無(wú)章可循，這也是本文考慮用自適應(yīng)法的原因，這樣既