幾類(lèi)半?yún)⒑头菂⒛Ｐ偷倪m應(yīng)性推斷.pdf

1、經(jīng)驗(yàn)似然方法自問(wèn)世以來(lái)便得到了數(shù)理統(tǒng)計(jì)學(xué)界的廣泛關(guān)注.經(jīng)驗(yàn)似然作為一種非參方法，并不需要對(duì)觀測(cè)數(shù)據(jù)做出分布族假定，因而經(jīng)驗(yàn)似然可以被看作是沒(méi)有重復(fù)抽樣的bootstrap方法，或者是沒(méi)有參數(shù)假定的似然方法.通過(guò)將估計(jì)方程運(yùn)用為一個(gè)最優(yōu)化問(wèn)題的約束條件，在構(gòu)造似然比函數(shù)時(shí)，并不像極大似然那樣需要首先得到參數(shù)的點(diǎn)估計(jì)。由于經(jīng)驗(yàn)似然構(gòu)造的參數(shù)的置信域不再是二次型的形式，其置信域的形狀完全決定于觀測(cè)數(shù)據(jù)，在本文中我們稱這一性質(zhì)為數(shù)據(jù)-適應(yīng)性（d

2、ata-adpative）?；诮?jīng)驗(yàn)似然諸多的優(yōu)點(diǎn)，特別是其良好的漸近勢(shì)，在統(tǒng)計(jì)推斷問(wèn)題上得到了廣泛的應(yīng)用，已經(jīng)成長(zhǎng)為數(shù)理統(tǒng)計(jì)學(xué)的重要研究工具和前沿的研究領(lǐng)域。 當(dāng)我們把經(jīng)驗(yàn)似然應(yīng)用于構(gòu)造參數(shù)的置信域，依據(jù)我們的研究重點(diǎn)，模型中的參數(shù)分為興趣參數(shù)（interesting parameter）和討厭參數(shù)（nuisance parameter）為了構(gòu)造興趣參數(shù)的置信域，我們可以先將討厭參數(shù)估計(jì)出來(lái)，帶入估計(jì)函數(shù)，這便是plug-in

3、方法。在參數(shù)模型中，討厭參數(shù)的估計(jì)有參數(shù)的收斂速度，因而不會(huì)改變估計(jì)函數(shù)的收斂速度，從而不影響經(jīng)驗(yàn)似然或者極大似然的漸近卡方性質(zhì)。但是在半?yún)⒛Ｐ椭校?y=g（X；β）+ε，未知函數(shù)g（·）是無(wú)窮維討厭參數(shù)，g（·）的偏差只能達(dá)到非參的收斂速度，此時(shí)應(yīng)用plug-in方法得出的對(duì)數(shù)經(jīng)驗(yàn)似然比函數(shù)的漸近分布為d-1個(gè)（d為β的維數(shù)）獨(dú)立的x12分布的隨機(jī)變量的加權(quán)和，而且各個(gè)權(quán)重是未知的。在本文的第二章，我們會(huì)簡(jiǎn)要的介紹現(xiàn)存的估

4、計(jì)各個(gè)權(quán)重的方法及其不足，同時(shí)給出我們的糾偏方法.我們的核心思路是運(yùn)用中心化為估計(jì)函數(shù)糾偏，使得保持最優(yōu)估計(jì)函數(shù)形式的同時(shí)，估計(jì)函數(shù)收斂到0的速度達(dá)到√n（n為樣本量），從而保證對(duì)數(shù)似然比函數(shù)的漸近卡方性質(zhì)。在第二章中，我們給出了糾偏平滑得分函數(shù)和糾偏經(jīng)驗(yàn)似然兩種方法，特別是后者，我們將其應(yīng)用到更加復(fù)雜的情形-變量觀測(cè)誤差（errors-in-variables）模型。在經(jīng)濟(jì)，生物和醫(yī)學(xué)等領(lǐng)域，errors-in-variables模型

5、皆有廣泛的實(shí)際應(yīng)用。在Fuller（1987）和Pepe and Fleming（1991）等學(xué)者的研究中，觀測(cè)誤差的變量被假定為有參數(shù)的結(jié)構(gòu)，例如 X=X+ε，X=βTX+ε，其中，X為有效數(shù)據(jù)，X為觀測(cè)數(shù)據(jù)。在本文中，我們應(yīng)用了中心化的糾偏方法，因而不需要假定X和X之間的參數(shù)結(jié)構(gòu)，而X=f（X）+ε的非參結(jié)構(gòu)保證了應(yīng)用中的靈活性和實(shí)用性.無(wú)論plug-in的是參數(shù)估計(jì)還是非參估計(jì)，我們最終都可以給出漸近卡方分布，因而我們的

6、糾偏是適應(yīng)于plug-in方法的。 在第三章和第四章中，我們引入的模型-適應(yīng)性是當(dāng)前非參置信限領(lǐng)域的研究熱點(diǎn)。在非參模型中，當(dāng)我們已知回歸函數(shù)屬于連續(xù)函數(shù)空間中的某個(gè)子空間，而且子空間的劃分與回歸函數(shù)的平滑性緊密相關(guān)，我們希望得到的回歸函數(shù)的置信限的面積（體積）選擇隨著子空間的不同選擇而自動(dòng)調(diào)整，這就是模型-適應(yīng)性的簡(jiǎn)單解釋。Li（1989）為適應(yīng)性非參置信球直徑的階數(shù)給出了下界，還有Barand（2004）、Wasserman

7、（2005）、Hoffmann and Lepski（2002）等學(xué)者的研究為本文的工作搭建了良好的理論平臺(tái).現(xiàn)存的適應(yīng)性置信限的構(gòu)造都集中于置信球的形式，即分別構(gòu)造相互獨(dú)立的球心和直徑，顯然置信球的形狀與實(shí)際觀測(cè)的數(shù)據(jù)無(wú)關(guān)，即不具有數(shù)據(jù)-適應(yīng)性的性質(zhì).在本文中，我們將具有數(shù)據(jù)-適應(yīng)性的經(jīng)驗(yàn)似然方法引入模型-適應(yīng)性置信限的研究，使得構(gòu)造出的置信限的形狀決定于觀測(cè)數(shù)據(jù)，同時(shí)置信限的平均直徑以最優(yōu)的速率適應(yīng)于選定的模型子空間，因而我們給出的