半?yún)⒒貧w模型的兩步回歸估計(jì).pdf

1、半?yún)?shù)回歸模型是八十年代發(fā)展起來的一種重要的統(tǒng)計(jì)模型。由于這種模型既含參數(shù)分量，又含非參數(shù)分量?？梢愿爬ê兔枋霰姸鄬?shí)際問題，因而引起廣泛重視。給定一個(gè)半?yún)?shù)回歸模型，Y<,i>=X<'T><,i>β+g(t<,i>)+β<,i> i=1，2，…，n諸X<,i>為已知p維設(shè)計(jì)向量。β=(β<,1>，…，β<,p>)<'T>是未知向量， g(·)為R<'1>上未知Borel函數(shù)。X<'T><,i>，g(t<,i>)分別稱為該模型的參數(shù)分量與

2、非參數(shù)分量。 在文獻(xiàn)中，關(guān)于半?yún)?shù)回歸的工作大多沿著這樣的思路：第一步先設(shè)β已知，使用標(biāo)準(zhǔn)非參數(shù)回歸方法，基于{t<,i>，Y<,i>一X<'T><,i>β}<'n><,i=1>估計(jì)g，記估計(jì)量為g<,λ>(·，β)；第二步再以g<,λ>代g，使用最小二乘法找β的下述極小問題的解。而g的最后估計(jì)為g<,λ>(·，β)，此處λ是非參數(shù)回歸估計(jì)中的光滑參數(shù)。例如，在核估計(jì)時(shí)，λ就是窗寬h。常用的計(jì)算窗寬的方法有： CV方法、風(fēng)險(xiǎn)估計(jì)

3、和GCV方法。這些方法所選擇的窗寬在各自標(biāo)準(zhǔn)下，都是最優(yōu)窗寬。但是計(jì)算量偏大，且標(biāo)準(zhǔn)不統(tǒng)一。 非參數(shù)分量g(·)的估計(jì)好壞直接影響參數(shù)β的估計(jì)。因此，非參數(shù)分量g(·)的估計(jì)就顯得尤為重要。但是標(biāo)準(zhǔn)的非參數(shù)回歸估計(jì)沒有一個(gè)滿意的收斂速度，為了改進(jìn)非參數(shù)估計(jì)的收斂速度，這篇文章結(jié)合了非參數(shù)回歸和參數(shù)回歸，提出了兩步回歸估計(jì)： 第一步：準(zhǔn)備好不同窗寬的非參數(shù)回歸作為先驗(yàn)選擇。 第二步：將被選擇的估計(jì)結(jié)合一些參數(shù)回歸技

4、術(shù)形成一種新的估計(jì)，同時(shí)獲得包括最優(yōu)窗寬在內(nèi)的最優(yōu)設(shè)計(jì)條件。這樣就避免了使用CV等方法選擇窗寬，減小了計(jì)算量，而且對于單變量模型，在內(nèi)點(diǎn)處的均方誤差的最優(yōu)收斂速度的階為O(n<'-8/9>)。而現(xiàn)存的一些方法沒有達(dá)到。通過模擬，對新方法在有限樣本下的表現(xiàn)給出評估并與現(xiàn)存的方法進(jìn)行比較。 在上述給定的半?yún)?shù)回歸模型滿足一定的條件下，得到了本文的主要結(jié)論： 結(jié)論1： 在偏差方面：新估計(jì)g(t)的偏差的階為O(n<'-

5、4/9>)，而原來的估計(jì)g<,h>(t；β)的偏差的階為O(n<'-2/5>)，新估計(jì)的漸近偏差小于原來估計(jì)；在方差方面，新估計(jì)和原來估計(jì)的方差具有相等的漸近階；在均方誤差方面，新估計(jì)的均方誤差的收斂速度為O(n<'-8/9>)，而原來估計(jì)為O(n-<,4/5>)。因此可以得出：新估計(jì)在收斂速度方面較原來的估計(jì)有很大的改進(jìn)。 結(jié)論2： 通過兩步估計(jì)的結(jié)果達(dá)到了用最優(yōu)窗寬回歸的結(jié)果，避免了使用CV等方法選擇窗寬，減小了計(jì)算