整體最小二乘和KKT系統(tǒng).pdf

1、這篇學(xué)位論文有兩部分內(nèi)容． 第一部分、TLS問題可解性研究． 1980年Golub和Van Loan提出TLS問題，并且給出了了求解TLS問題的第一個(gè)數(shù)值穩(wěn)定的算法． Van Huffel和 Vandewalle的著作總結(jié)了直到1991年取得的重要理論結(jié)果和數(shù)值方法．書中有個(gè)基本觀點(diǎn)特別提及：那里用LS，那里就用TLS； 在一些典型應(yīng)用中，用TLS比用LS可以使參數(shù)估計(jì)精度平均提高10-15％．

2、在1980年，Golub和Van Loan提出TLS問題時(shí)，他們同時(shí)也給出了在Frobenius范數(shù)下可解性的一個(gè)充分條件，但是沒有討論充分必要條件以及其它范數(shù)的情形，這導(dǎo)致了一定的局限性，為研究數(shù)值算法和其他形式的TLS問題帶來了一定的束縛．后繼的相關(guān)的TLS問題的研究往往均以此作為基礎(chǔ)來進(jìn)行．在可解性方面的工作，需要提到的是劉新國和黃開斌的工作，前者給出了在Frobenius范數(shù)下TLS問題可解的充分必要條件；而后者與顏世健給出了在

3、譜范數(shù)下可解的充分必要條件． 本論文的第一個(gè)工作是在充分了解一般酉不變范數(shù)的性質(zhì)的前提下給出了了TLS問題在一般的酉不變范數(shù)下可解的充分必要條件，從而在更大范圍中解決了可解性問題．在文中，對于一般酉不變范數(shù)，我們給出了它的一種分類方法，從而能夠更加充分地認(rèn)識一般地酉不變范數(shù)．順便的，我們還討論了LS和TLS的相關(guān)地幾何問題．解決的過程和充分必要條件的結(jié)論能夠提高我們對TLS問題本質(zhì)的認(rèn)識，從而為算法的改進(jìn)和其它相關(guān)的TLS問題的

4、研究提供理論上的幫助． 第二部分、KKT系統(tǒng)的研究． Stokes問題的混合有限元方法離散導(dǎo)出了KKT系統(tǒng)，由于Stokes方程是流體力學(xué)的基本方程，因而其研究成果在物理海洋科學(xué)中有廣泛的應(yīng)用背景． 在數(shù)值代數(shù)中，向后誤差和條件數(shù)是兩個(gè)基本概念．前者刻畫了算法的穩(wěn)定性，后者則反映解關(guān)于數(shù)據(jù)擾動的敏感性．二者相結(jié)合，按照Higham的觀點(diǎn)，在一階近似下，有計(jì)算解的誤差(近似小于等于)條件數(shù)×向后誤差． 對于

5、結(jié)構(gòu)問題，發(fā)展保結(jié)構(gòu)算法有兩方面的考慮．其一，數(shù)學(xué)結(jié)構(gòu)一般是物理機(jī)制的反映，數(shù)學(xué)上保結(jié)構(gòu)等同于遵從物理要求：其二，充分地利用結(jié)構(gòu)有可能使求解效率更高．對應(yīng)于保結(jié)構(gòu)算法，相應(yīng)地有結(jié)構(gòu)敏度分析．即，對于保結(jié)構(gòu)算法的計(jì)算結(jié)果分析，相應(yīng)的有計(jì)算解的誤差(近似小于等于)結(jié)構(gòu)條件數(shù)×結(jié)構(gòu)向后誤差． 本文主要研究了KKT系統(tǒng)的結(jié)構(gòu)條件數(shù)，而且對于一類特殊的KKT系統(tǒng)，研究了它的結(jié)構(gòu)敏度方面的問題． Higham和Higham 1992

6、年定義了結(jié)構(gòu)條件數(shù)和結(jié)構(gòu)向后誤差，并對一些重要的線性結(jié)構(gòu)研究了結(jié)構(gòu)向后誤差．Rump于2004年對一些重要而常見的結(jié)構(gòu)系統(tǒng)比較了條件數(shù)與結(jié)構(gòu)條件數(shù)．然而，Higham和Rump沒有討論KKT系統(tǒng)，他們討診的主要是單結(jié)構(gòu)系統(tǒng)． 我們對KKT系統(tǒng)的條件數(shù)與結(jié)構(gòu)條件數(shù)做了定量和定性兩方面的比較，我們對Rump的研究結(jié)構(gòu)條件數(shù)的幾乎所有工具都應(yīng)用在KKT系統(tǒng)上，比較了它們的優(yōu)點(diǎn)和不足，得不到滿意的結(jié)論．我們采取的主要研究思路是引入子條件

7、數(shù)，建立Byers型不等式，改進(jìn)Rump的技術(shù)，寫出KKT矩陣的逆矩陣形式，然后進(jìn)行比較．首先利用單參數(shù)展開方法建立了Byers型不等式，然后討論結(jié)構(gòu)條件數(shù)與條件數(shù)的定性比較．結(jié)果表明，在極端情形，條件數(shù)與結(jié)構(gòu)條件數(shù)之比可以任意大．對于一般的線性結(jié)構(gòu)，我們還給出了求逆結(jié)構(gòu)條件數(shù)和到結(jié)構(gòu)不可逆陣的距離之間的關(guān)系．從計(jì)算流體力學(xué)角度看，KKT系統(tǒng)中右上角矩陣M一般是半正定的，有時(shí)直接給出的是它的因子F，所以我們研究F．對于這一類的KKT系統(tǒng)