最優(yōu)低秩相關(guān)系數(shù)矩陣問題.pdf

1、本文主要研究最優(yōu)低秩相關(guān)系數(shù)矩陣問題及與其相關(guān)的兩類問題:帶簡單上界約束的最優(yōu)相關(guān)系數(shù)矩陣問題和具有因子結(jié)構(gòu)的最優(yōu)相關(guān)系數(shù)矩陣問題.
　　 最優(yōu)低秩相關(guān)系數(shù)矩陣問題來源于金融領(lǐng)域,在組合優(yōu)化、機器學習、數(shù)據(jù)分析等方面也有重要應(yīng)用.目前已經(jīng)有很多方法可以來求解它.其中,優(yōu)化算法是很受歡迎的一種方法.在本文的第二章到第四章中,我們將提出序列半光滑牛頓算法.由于該問題是一個非凸約束優(yōu)化問題,為了處理非凸的秩約束條件,在第二章中,我們首

2、先將原問題轉(zhuǎn)化為一個等價的非線性半定規(guī)劃問題(NSDPr).這主要是基于一個著名的結(jié)果:對稱矩陣的前r個最大特征值之和可以寫成一個半定規(guī)劃問題.(NSDPr)也是一個非凸優(yōu)化問題,它含有兩個矩陣變量和三個對稱半正定錐約束.為避免直接求解,我們通過求解一系列最小二乘子問題來求解(NSDPr),稱之為外層算法.我們證明,外層算法產(chǎn)生的點列收斂于問題(NSDPr)的穩(wěn)定點.在第三章中針對每一個最小二乘子問題,我們設(shè)計了半光滑牛頓算法,稱為內(nèi)層

3、算法.內(nèi)層算法可以快速有效地求解子問題,而且我們證明它具有二次收斂速度.值得指出的是,該算法的關(guān)鍵在于兩個方面.第一是秩約束的連續(xù)等價變換,第二是采用半光滑牛頓法求解子問題的最小二乘形式.第四章的大量數(shù)值結(jié)果表明,所提出的序列半光滑牛頓算法在求解該問題時非常有效.
　　 本文的另一個研究內(nèi)容是最優(yōu)相關(guān)系數(shù)矩陣問題.我們研究帶簡單上界約束的最優(yōu)相關(guān)系數(shù)矩陣問題.簡單上界約束出現(xiàn)在很多實際問題中,例如具有給定條件數(shù)的最優(yōu)相關(guān)系數(shù)矩陣

4、問題,秩約束問題中尋找搜索方向矩陣問題等.在第五章中,我們對Qi和Sun提出的半光滑牛頓法加以改進,用于求解此問題,并對問題的非退化性進行了深入分析.我們證明在某些情形下,非退化性并不成立.通過建立非退化性和對偶問題的廣義Hessian陣的對稱正定性的等價關(guān)系,我們證明算法的二次收斂性.數(shù)值結(jié)果表明,盡管非退化性在某些情形下不成立,本文所提出的算法(即使對大規(guī)模問題)仍然非常有效.
　　 在第六章中我們研究另一類秩約束問題:具有