第三章經(jīng)典單方程計(jì)量經(jīng)濟(jì)學(xué)模型多元回歸

1、第三章 經(jīng)典單方程計(jì)量經(jīng)濟(jì)學(xué)模型：多元線性回歸模型,多元線性回歸模型 多元線性回歸模型的參數(shù)估計(jì)多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn)多元線性回歸模型的預(yù)測回歸模型的其他形式回歸模型的參數(shù)約束,§3.1 多元線性回歸模型,一、多元線性回歸模型 二、多元線性回歸模型的基本假定,一、多元線性回歸模型,多元線性回歸模型:表現(xiàn)在線性回歸模型中的解釋變量有多個(gè)。 一般表現(xiàn)形式：,i=1,2…,n,其中:k為解釋變量的數(shù)目，?j稱

2、為回歸參數(shù)（regression coefficient）。,也被稱為總體回歸函數(shù)的隨機(jī)表達(dá)形式。它 的非隨機(jī)表達(dá)式為:,表示：各變量X值固定時(shí)Y的平均響應(yīng)。,習(xí)慣上：把常數(shù)項(xiàng)看成為一虛變量的系數(shù)，該虛變量的樣本觀測值始終取1。于是：模型中解釋變量的數(shù)目為（k+1）,總體回歸模型n個(gè)隨機(jī)方程的矩陣表達(dá)式為:,其中,?j也被稱為偏回歸系數(shù)，表示在其他解釋變量保持不變的情況下，X j每變化1個(gè)單位時(shí)，Y的均值E(Y)的變化;

3、 或者說?j給出了X j的單位變化對Y均值的“直接”或“凈”（不含其他變量）影響。,用來估計(jì)總體回歸函數(shù)的樣本回歸函數(shù)為：,其隨機(jī)表示式:,ei稱為殘差或剩余項(xiàng)(residuals)，可看成是總體回歸函數(shù)中隨機(jī)擾動(dòng)項(xiàng)?i的近似替代。 樣本回歸函數(shù)的矩陣表達(dá):,或,其中：,二、多元線性回歸模型的基本假定,假設(shè)1，解釋變量是非隨機(jī)的或固定的，且各X之間互不相關(guān)（無多重共線性）。 假設(shè)2，隨機(jī)誤差項(xiàng)具有零均值、同方差及不序列

4、相關(guān)性。,假設(shè)3，解釋變量與隨機(jī)項(xiàng)不相關(guān),假設(shè)4，隨機(jī)項(xiàng)滿足正態(tài)分布,上述假設(shè)的矩陣符號表示 式：,假設(shè)1，n?(k+1)矩陣X是非隨機(jī)的，且X的秩?=k+1，即X滿秩。 假設(shè)2，,假設(shè)4，向量? 有一多維正態(tài)分布，即,同一元回歸一樣，多元回歸還具有如下兩個(gè)重要假設(shè)： 假設(shè)5，樣本容量趨于無窮時(shí)，各解釋變量的方差趨于有界常數(shù)，即n?∞時(shí)，,假設(shè)3，E(X’?)=0，即,其中：Q為一非奇異固定矩陣，矩陣x是由各解釋變量的離差

5、為元素組成的n?k階矩陣,假設(shè)6，回歸模型的設(shè)定是正確的。,或,§3.2 多元線性回歸模型的估計(jì),一、普通最小二乘估計(jì) *二、最大或然估計(jì) *三、矩估計(jì) 四、參數(shù)估計(jì)量的性質(zhì) 五、樣本容量問題 六、估計(jì)實(shí)例,說 明,估計(jì)方法：3大類方法：OLS、ML或者M(jìn)M在經(jīng)典模型中多應(yīng)用OLS在非經(jīng)典模型中多應(yīng)用ML或者M(jìn)M在本節(jié)中， ML與MM為選學(xué)內(nèi)容,一、普通最小二乘估計(jì),對于隨機(jī)抽取的n組觀測值,如果樣本函

6、數(shù)的參數(shù)估計(jì)值已經(jīng)得到，則有：,i=1,2…n,根據(jù)最小二乘原理，參數(shù)估計(jì)值應(yīng)該是右列方程組的解,其中,于是得到關(guān)于待估參數(shù)估計(jì)值的正規(guī)方程組：,,,□正規(guī)方程組的矩陣形式,即,由于X’X滿秩，故有,將上述過程用矩陣表示如下：,即求解方程組：,得到：,于是：,例3.2.1：在例2.1.1的家庭收入-消費(fèi)支出例中，,可求得：,于是：,?正規(guī)方程組 的另一種寫法,對于正規(guī)方程組,于是,或,(*)或（**）是多元線性回歸模型正規(guī)方程組的另一種

7、寫法。,(*),(**),,?樣本回歸函數(shù)的離差形式,i=1,2…n,其矩陣形式為：,其中 ：,在離差形式下，參數(shù)的最小二乘估計(jì)結(jié)果為,?隨機(jī)誤差項(xiàng)?的方差?的無偏估計(jì),可以證明，隨機(jī)誤差項(xiàng)?的方差的無偏估計(jì)量為：,*二、最大或然估計(jì),對于多元線性回歸模型,易知,Y的隨機(jī)抽取的n組樣本觀測值的聯(lián)合概率,對數(shù)或然函數(shù)為,對對數(shù)或然函數(shù)求極大值，也就是對,求極小值。,即為變量Y的或然函數(shù),因此，參數(shù)的最大或然估計(jì)為,結(jié)果與參數(shù)的普通最小二乘

8、估計(jì)相同,*三、矩估計(jì)（Moment Method, MM）,OLS估計(jì)是通過得到一個(gè)關(guān)于參數(shù)估計(jì)值的正規(guī)方程組,并對它進(jìn)行求解而完成的。,該正規(guī)方程組 可以從另外一種思路來導(dǎo):,求期望 :,稱為原總體回歸方程的一組矩條件，表明了原總體回歸方程所具有的內(nèi)在特征。,矩方法是工具變量方法(Instrumental Variables,IV)和廣義矩估計(jì)方法(Generalized Moment Method, GMM)的基礎(chǔ),在矩方法中利用

9、了關(guān)鍵是 E(X’?)=0,如果某個(gè)解釋變量與隨機(jī)項(xiàng)相關(guān)，只要能找到1個(gè)工具變量，仍然可以構(gòu)成一組矩條件。這就是IV。 如果存在＞k+1個(gè)變量與隨機(jī)項(xiàng)不相關(guān)，可以構(gòu)成一組包含＞k+1方程的矩條件。這就是GMM。,四、參數(shù)估計(jì)量的性質(zhì),在滿足基本假設(shè)的情況下，其結(jié)構(gòu)參數(shù)?的普通最小二乘估計(jì)、最大或然估計(jì)及矩估計(jì)仍具有： 線性性、無偏性、有效性。,同時(shí)，隨著樣本容量增加，參數(shù)估計(jì)量具有：

10、 漸近無偏性、漸近有效性、一致性。,1、線性性,其中,C=(X’X)-1 X’ 為一僅與固定的X有關(guān)的行向量,2、無偏性,3、有效性（最小方差性）,這里利用了假設(shè): E(X’?)=0,其中利用了,和,五、樣本容量問題,所謂“最小樣本容量”，即從最小二乘原理和最大或然原理出發(fā)，欲得到參數(shù)估計(jì)量，不管其質(zhì)量如何，所要求的樣本容量的下限。,⒈ 最小樣本容量,樣本最小容量必須不少于模型中解釋變量的數(shù)目（包括常數(shù)項(xiàng)）,即

11、 n ≥ k+1因?yàn)椋瑹o多重共線性要求：秩(X)=k+1,2、滿足基本要求的樣本容量,從統(tǒng)計(jì)檢驗(yàn)的角度： n?30 時(shí)，Z檢驗(yàn)才能應(yīng)用； n-k≥8時(shí), t分布較為穩(wěn)定,一般經(jīng)驗(yàn)認(rèn)為: 當(dāng)n≥30或者至少n≥3(k+1)時(shí)，才能說滿足模型估計(jì)的基本要求。,模型的良好性質(zhì)只有在大樣本下才能得到理論上的證明,六、多元線性回歸模型的參數(shù)估計(jì)實(shí)例,例3.2.2 在例2.5.1中，已建立了中國居民人均消費(fèi)

12、一元線性模型。這里我們再考慮建立多元線性模型。,解釋變量：人均GDP：GDPP 前期消費(fèi)：CONSP(-1),估計(jì)區(qū)間：1979~2000年,Eviews軟件估計(jì)結(jié)果,§3.3 多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn),一、擬合優(yōu)度檢驗(yàn) 二、方程的顯著性檢驗(yàn)(F檢驗(yàn)) 三、變量的顯著性檢驗(yàn)（t檢驗(yàn)） 四、參數(shù)的置信區(qū)間,一、擬合優(yōu)度檢驗(yàn),1、可決系數(shù)與調(diào)整的可決系數(shù),則,總離差平方和

13、的分解,由于:,=0,所以有：,注意：一個(gè)有趣的現(xiàn)象,,可決系數(shù),該統(tǒng)計(jì)量越接近于1，模型的擬合優(yōu)度越高。,問題：在應(yīng)用過程中發(fā)現(xiàn)，如果在模型中增加一個(gè)解釋變量， R2往往增大（Why?) 這就給人一個(gè)錯(cuò)覺：要使得模型擬合得好，只要增加解釋變量即可。—— 但是，現(xiàn)實(shí)情況往往是，由增加解釋變量個(gè)數(shù)引起的R2的增大與擬合好壞無關(guān)，R2需調(diào)整。,調(diào)整的可決系數(shù)（adjusted coefficient of determination

14、）,在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調(diào)整的思路是:將殘差平方和與總離差平方和分別除以各自的自由度，以剔除變量個(gè)數(shù)對擬合優(yōu)度的影響:,其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。,*2、赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則,為了比較所含解釋變量個(gè)數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標(biāo)準(zhǔn)還有: 赤池信息準(zhǔn)則（Akaike information criterion, AIC）,施瓦茨準(zhǔn)則（Schwa

15、rz criterion，SC）,這兩準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC值或AC值時(shí)才在原模型中增加該解釋變量。,Eviews的估計(jì)結(jié)果顯示： 中國居民消費(fèi)一元例中： AIC=6.68 AC=6.83 中國居民消費(fèi)二元例中： AIC=7.09 AC=7.19從這點(diǎn)看，可以說前期人均居民消費(fèi)CONSP(-1)應(yīng)包括在模型中。,二、方程的顯著性檢驗(yàn)(F檢驗(yàn)),方程的顯

16、著性檢驗(yàn)，旨在對模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出推斷。,1、方程顯著性的F檢驗(yàn),即檢驗(yàn)?zāi)Ｐ?Yi=?0+?1X1i+?2X2i+ ? +?kXki+?i i=1,2, ?,n中的參數(shù)?j是否顯著不為0。,可提出如下原假設(shè)與備擇假設(shè)：,H0： ?0=?1=?2= ? =?k=0 H1： ?j不全為0,F檢驗(yàn)的思想來自于總離差平方和的分解式：

17、 TSS=ESS+RSS,如果這個(gè)比值較大，則X的聯(lián)合體對Y的解釋程度高，可認(rèn)為總體存在線性關(guān)系，反之總體上可能不存在線性關(guān)系。 因此,可通過該比值的大小對總體線性關(guān)系進(jìn)行推斷。,根據(jù)數(shù)理統(tǒng)計(jì)學(xué)中的知識(shí)，在原假設(shè)H0成立的條件下，統(tǒng)計(jì)量,服從自由度為(k , n-k-1)的F分布。,給定顯著性水平?，可得到臨界值F?(k,n-k-1)，由樣本求出統(tǒng)計(jì)量F的數(shù)值，通過 F? F?(k,n-k-1)

18、 或 F≤F?(k,n-k-1)來拒絕或接受原假設(shè)H0，以判定原方程總體上的線性關(guān)系是否顯著成立。,對于中國居民人均消費(fèi)支出的例子： 一元模型：F=285.92 二元模型：F=2057.3,給定顯著性水平? =0.05，查分布表，得到臨界值： 一元例：F?(1,21)=4.32 二元例： F?(2,19)=3.52,顯然有 F? F?(k,n-k-1) ，即二個(gè)模型的線性關(guān)系在95%的水平下顯著成

19、立。,2、關(guān)于擬合優(yōu)度檢驗(yàn)與方程顯著性檢驗(yàn)關(guān)系的討論,由,可推出：,與,或,在中國居民人均收入—消費(fèi)一元模型中，,在中國居民人均收入—消費(fèi)二元模型中，,三、變量的顯著性檢驗(yàn)（t檢驗(yàn)）,方程的總體線性關(guān)系顯著?每個(gè)解釋變量對被解釋變量的影響都是顯著的。 因此，必須對每個(gè)解釋變量進(jìn)行顯著性檢驗(yàn)，以決定是否作為解釋變量被保留在模型中。 這一檢驗(yàn)是由對變量的 t 檢驗(yàn)完成的。,1、t統(tǒng)計(jì)量,由于,以cii表示矩陣(X’X)-1 主對角

20、線上的第i個(gè)元素，于是參數(shù)估計(jì)量的方差為：,其中?2為隨機(jī)誤差項(xiàng)的方差，在實(shí)際計(jì)算時(shí)，用它的估計(jì)量代替:,因此，可構(gòu)造如下t統(tǒng)計(jì)量,2、t檢驗(yàn),設(shè)計(jì)原假設(shè)與備擇假設(shè)：,H1：?i?0,給定顯著性水平?，可得到臨界值t?/2(n-k-1)，由樣本求出統(tǒng)計(jì)量t的數(shù)值，通過 |t|? t?/2(n-k-1) 或 |t|≤t?/2(n-k-1)來拒絕或接受原假設(shè)H0，從而判定對應(yīng)的解釋變量是否應(yīng)包括在模型中。,H0：?i=0

21、 （i=1,2…k）,注意：一元線性回歸中，t檢驗(yàn)與F檢驗(yàn)一致,一方面，t檢驗(yàn)與F檢驗(yàn)都是對相同的原假設(shè)H0：?1=0 進(jìn)行檢驗(yàn); 另一方面，兩個(gè)統(tǒng)計(jì)量之間有如下關(guān)系：,在中國居民人均收入-消費(fèi)支出二元模型例中，由應(yīng)用軟件計(jì)算出參數(shù)的t值：,給定顯著性水平?=0.05，查得相應(yīng)臨界值： t0.025(19) =2.093。,可見，計(jì)算的所有t值都大于該臨界值，所以拒絕原假設(shè)。即:包括常數(shù)項(xiàng)在內(nèi)的3個(gè)解釋變量都在95

22、%的水平下顯著，都通過了變量顯著性檢驗(yàn)。,四、參數(shù)的置信區(qū)間,參數(shù)的置信區(qū)間用來考察：在一次抽樣中所估計(jì)的參數(shù)值離參數(shù)的真實(shí)值有多“近”。 在變量的顯著性檢驗(yàn)中已經(jīng)知道：,容易推出：在(1-?)的置信水平下?i的置信區(qū)間是,其中，t?/2為顯著性水平為? 、自由度為n-k-1的臨界值。,在中國居民人均收入－消費(fèi)支出二元模型例中,給定?=0.05，查表得臨界值：t0.025(19)=2.093,計(jì)算得參數(shù)的置信區(qū)間：

23、 ?0 ：(44.284, 197.116) ?1 ： (0.0937, 0.3489 ) ?2 ：(0.0951, 0.8080),從回歸計(jì)算中已得到：,如何才能縮小置信區(qū)間？,增大樣本容量n，因?yàn)樵谕瑯拥臉颖救萘肯?，n越大，t分布表中的臨界值越小，同時(shí)，增大樣本容量，還可使樣本參數(shù)估計(jì)量的標(biāo)準(zhǔn)差減??； 提高模型

24、的擬合優(yōu)度，因?yàn)闃颖緟?shù)估計(jì)量的標(biāo)準(zhǔn)差與殘差平方和呈正比，模型優(yōu)度越高，殘差平方和應(yīng)越小。,提高樣本觀測值的分散度,一般情況下，樣本觀測值越分散，(X’X)-1的分母的|X’X|的值越大，致使區(qū)間縮小。,§3.4 多元線性回歸模型的預(yù)測,一、E(Y0)的置信區(qū)間 二、Y0的置信區(qū)間,對于模型,給定樣本以外的解釋變量的觀測值X0=(1,X10,X20,…,Xk0)，可以得到被解釋變量的預(yù)測值：,它可以是總體均值E(Y0)或個(gè)

25、值Y0的預(yù)測。 但嚴(yán)格地說，這只是被解釋變量的預(yù)測值的估計(jì)值，而不是預(yù)測值。 為了進(jìn)行科學(xué)預(yù)測，還需求出預(yù)測值的置信區(qū)間，包括E(Y0)和Y0的置信區(qū)間。,一、E(Y0)的置信區(qū)間,易知,容易證明,于是，得到(1-?)的置信水平下E(Y0)的置信區(qū)間：,其中，t?/2為(1-?)的置信水平下的臨界值。,二、Y0的置信區(qū)間,如果已經(jīng)知道實(shí)際的預(yù)測值Y0，那么預(yù)測誤差為：,容易證明,e0服從正態(tài)分布，即,構(gòu)造t統(tǒng)計(jì)量

26、,可得給定(1-?)的置信水平下Y0的置信區(qū)間：,中國居民人均收入-消費(fèi)支出二元模型例中：2001年人均GDP：4033.1元，,于是人均居民消費(fèi)的預(yù)測值為 ?2001=120.7+0.2213×4033.1+0.4515×1690.8=1776.8（元）,實(shí)測值（90年價(jià)）=1782.2元，相對誤差：-0.31%,預(yù)測的置信區(qū)間 ：,于是E(?2001）的95%的置信區(qū)間為:,或 （1

27、741.8，1811.7）,或 （1711.1, 1842.4）,同樣，易得?2001的95%的置信區(qū)間為,§3.5 回歸模型的其他函數(shù)形式,一、模型的類型與變換 二、非線性回歸實(shí)例,說 明,在實(shí)際經(jīng)濟(jì)活動(dòng)中，經(jīng)濟(jì)變量的關(guān)系是復(fù)雜的，直接表現(xiàn)為線性關(guān)系的情況并不多見。如著名的恩格爾曲線(Engle curves)表現(xiàn)為冪函數(shù)曲線形式、宏觀經(jīng)濟(jì)學(xué)中的菲利普斯曲線（Pillips cuves

28、）表現(xiàn)為雙曲線形式等。但是，大部分非線性關(guān)系又可以通過一些簡單的數(shù)學(xué)處理，使之化為數(shù)學(xué)上的線性關(guān)系，從而可以運(yùn)用線性回歸模型的理論方法。,一、模型的類型與變換,1、倒數(shù)模型、多項(xiàng)式模型與變量的直接置換法,例如，描述稅收與稅率關(guān)系的拉弗曲線：拋物線 s = a + b r + c r2 c<0 s：稅收； r：稅率,

29、設(shè)X1 = r，X2 = r2， 則原方程變換為 s = a + b X1 + c X2 c<0,2、冪函數(shù)模型、指數(shù)函數(shù)模型與對數(shù)變換法,例如，Cobb-Dauglas生產(chǎn)函數(shù)：冪函數(shù) Q = AK?L?Q：產(chǎn)出量，K：投入的資本；L：投入的勞動(dòng),方程兩邊取對數(shù)： ln

30、Q = ln A + ? ln K + ? ln L,3、復(fù)雜函數(shù)模型與級數(shù)展開法,方程兩邊取對數(shù)后，得到：,(?1+?2=1),Q:產(chǎn)出量，K：資本投入，L：勞動(dòng)投入 ?：替代參數(shù)， ?1、?2：分配參數(shù),例如，常替代彈性CES生產(chǎn)函數(shù),將式中l(wèi)n(?1K-? + ?2L-?)在?=0處展開臺(tái)勞級數(shù),取關(guān)于?的線性項(xiàng)，即得到一個(gè)線性近似式。,如取0階、1階、2階項(xiàng)，可得:,二、非線性回歸實(shí)例,例3.5.1 建立中國

31、城鎮(zhèn)居民食品消費(fèi)需求函數(shù)模型。,根據(jù)需求理論，居民對食品的消費(fèi)需求函數(shù)大致為:,Q:居民對食品的需求量，X：消費(fèi)者的消費(fèi)支出總額P1：食品價(jià)格指數(shù)，P0：居民消費(fèi)價(jià)格總指數(shù)。,(*),零階齊次性，當(dāng)所有商品和消費(fèi)者貨幣支出總額按同一比例變動(dòng)時(shí)，需求量保持不變,(**),為了進(jìn)行比較，將同時(shí)估計(jì)（*）式與（**）式。,根據(jù)恩格爾定律，居民對食品的消費(fèi)支出與居民的總支出間呈冪函數(shù)的變化關(guān)系:,首先,確定具體的函數(shù)形式,對數(shù)變換:,(***

32、),考慮到零階齊次性時(shí),(****)式也可看成是對（***）式施加如下約束而得:,因此，對（****）式進(jìn)行回歸，就意味著原需求函數(shù)滿足零階齊次性條件。,(****),X：人均消費(fèi)X1：人均食品消費(fèi)GP：居民消費(fèi)價(jià)格指數(shù)FP：居民食品消費(fèi)價(jià)格指數(shù)XC：人均消費(fèi)（90年價(jià)）Q：人均食品消費(fèi)（90年價(jià)）P0：居民消費(fèi)價(jià)格縮減指數(shù)（1990=100）P：居民食品消費(fèi)價(jià)格縮減指數(shù)（1990=100,中國城鎮(zhèn)居民人均食品消費(fèi),特征：

33、消費(fèi)行為在1981~1995年間表現(xiàn)出較強(qiáng)的一致性；1995年之后呈現(xiàn)出另外一種變動(dòng)特征。,建立1981~1994年中國城鎮(zhèn)居民對食品的消費(fèi)需求模型:,(9.03) (25.35) (-2.28) (-7.34),按零階齊次性表達(dá)式回歸:,（75.86）(52.66) (-3.62),為了比較，改寫該式為：,與,接近。,意味著：所建立的食品需求函數(shù)滿足零階齊次性特征。

34、,§3.6 受約束回歸,一、模型參數(shù)的線性約束 二、對回歸模型增加或減少解釋變量 三、參數(shù)的穩(wěn)定性 *四、非線性約束,說 明,在建立回歸模型時(shí)，有時(shí)根據(jù)經(jīng)濟(jì)理論需要對模型中的參數(shù)施加一定的約束條件。例如：——需求函數(shù)的0階齊次性條件——生產(chǎn)函數(shù)的1階齊次性條件模型施加約束條件后進(jìn)行回歸，稱為受約束回歸（restricted regression）;未加任何約束的回歸稱為無約束回歸（unrestricted

35、regression）。,一、模型參數(shù)的線性約束,例如對模型:,施加約束:,得:,或:,(*),(**),如果對（**）式回歸得出:,則由約束條件可得：,然而，對所考查的具體問題能否施加約束？需進(jìn)一步進(jìn)行相應(yīng)的檢驗(yàn)。常用的檢驗(yàn)有：F檢驗(yàn)、x2檢驗(yàn)與t檢驗(yàn)。,F檢驗(yàn),在同一樣本下，記無約束樣本回歸模型為:,受約束樣本回歸模型為:,于是:,受約束樣本回歸模型的殘差平方和RSSR,于是,e’e為無約束樣本回歸模型的殘差平方和RSSU,(*),

36、受約束與無約束模型都有相同的TSS,,這意味著，通常情況下，對模型施加約束條件會(huì)降低模型的解釋能力。 但是，如果約束條件為真，則受約束回歸模型與無約束回歸模型具有相同的解釋能力，RSSR 與 RSSU的差異變小。,由（*）式 RSSR ≥ RSSU從而 ESSR ≤ ESSU,可用RSSR - RSSU的大小來檢驗(yàn)約束的真實(shí)性,根據(jù)數(shù)

37、理統(tǒng)計(jì)學(xué)的知識(shí)：,于是：,討論： 如果約束條件無效， RSSR 與 RSSU的差異較大，計(jì)算的F值也較大。,于是，可用計(jì)算的F統(tǒng)計(jì)量的值與所給定的顯著性水平下的臨界值作比較，對約束條件的真實(shí)性進(jìn)行檢驗(yàn)。,注意，kU - kR恰為約束條件的個(gè)數(shù)。,例3.6.1 中國城鎮(zhèn)居民對食品的人均消費(fèi)需求實(shí)例中，對零階齊次性檢驗(yàn)：,無約束回歸:RSSU=0.00324， kU=3 受約束回歸:RSSR=0.00332， K

38、R=2 樣本容量n=14， 約束條件個(gè)數(shù)kU - kR=3-2=1,取?=5%，查得臨界值F0.05(1,10)=4.96結(jié)論：不能拒絕中國城鎮(zhèn)居民對食品的人均消費(fèi)需求函數(shù)具有零階齊次特性這一假設(shè)。,這里的F檢驗(yàn)適合所有關(guān)于參數(shù)線性約束的檢驗(yàn),如：多元回歸中對方程總體線性性的F檢驗(yàn)： H0： ?j=0 j=1,2,…,k,這里：受約束回歸模型為,這里，運(yùn)用了ESSR ＝0。,

39、二、對回歸模型增加或減少解釋變量,考慮如下兩個(gè)回歸模型,(*),(**),(*)式可看成是（**）式的受約束回歸：,H0：,相應(yīng)的Ｆ統(tǒng)計(jì)量為：,Ｆ統(tǒng)計(jì)量的另一個(gè)等價(jià)式,如果約束條件為真，即額外的變量Xk+1, …, Xk+q對Ｙ?zèng)]有解釋能力，則Ｆ統(tǒng)計(jì)量較?。?否則，約束條件為假，意味著額外的變量對Ｙ有較強(qiáng)的解釋能力，則Ｆ統(tǒng)計(jì)量較大。 因此，可通過F的計(jì)算值與臨界值的比較，來判斷額外變量是否應(yīng)包括在模型中

40、。,討論：,三、參數(shù)的穩(wěn)定性,1、鄒氏參數(shù)穩(wěn)定性檢驗(yàn),建立模型時(shí)往往希望模型的參數(shù)是穩(wěn)定的，即所謂的結(jié)構(gòu)不變，這將提高模型的預(yù)測與分析功能。如何檢驗(yàn)？,假設(shè)需要建立的模型為,在兩個(gè)連續(xù)的時(shí)間序列（1,2,…，n1）與（n1+1,…，n1+n2）中，相應(yīng)的模型分別為：,合并兩個(gè)時(shí)間序列為( 1,2,…，n1 ，n1+1,…，n1+n2 )，則可寫出如下無約束回歸模型,如果?=?，表示沒有發(fā)生結(jié)構(gòu)變化，因此可針對如下假設(shè)進(jìn)行檢驗(yàn)：

41、 H0: ?=?(*)式施加上述約束后變換為受約束回歸模型,(*),（**）,因此，檢驗(yàn)的F統(tǒng)計(jì)量為：,記RSS1與RSS2為在兩時(shí)間段上分別回歸后所得的殘差平方和，容易驗(yàn)證，,于是,參數(shù)穩(wěn)定性的檢驗(yàn)步驟：,（1）分別以兩連續(xù)時(shí)間序列作為兩個(gè)樣本進(jìn)行回歸，得到相應(yīng)的殘差平方： RSS1與RSS2 （2）將兩序列并為一個(gè)大樣本后進(jìn)行回歸，得到大樣本下的殘差平方和RSSR,（3）計(jì)算F統(tǒng)計(jì)量的值，與臨界值比較：

42、 若F值大于臨界值，則拒絕原假設(shè)，認(rèn)為發(fā)生了結(jié)構(gòu)變化，參數(shù)是非穩(wěn)定的。 該檢驗(yàn)也被稱為鄒氏參數(shù)穩(wěn)定性檢驗(yàn)（Chow test for parameter stability）。,2、鄒氏預(yù)測檢驗(yàn),上述參數(shù)穩(wěn)定性檢驗(yàn)要求n2>k。 如果出現(xiàn)n2<k ，則往往進(jìn)行如下的鄒氏預(yù)測檢驗(yàn)（Chow test for predictive failure）。,鄒氏預(yù)測檢驗(yàn)的基本思想: 先用前

43、一時(shí)間段n1個(gè)樣本估計(jì)原模型，再用估計(jì)出的參數(shù)進(jìn)行后一時(shí)間段n2個(gè)樣本的預(yù)測。,如果預(yù)測誤差較大，則說明參數(shù)發(fā)生了變化，否則說明參數(shù)是穩(wěn)定的。,分別以?、? 表示第一與第二時(shí)間段的參數(shù)，則:,其中，,,(*),如果? =0，則 ? = ?，表明參數(shù)在估計(jì)期與預(yù)測期相同,(*)的矩陣式：,可見，用前n1個(gè)樣本估計(jì)可得前k個(gè)參數(shù)?的估計(jì)，而?是用后n2個(gè)樣本測算的預(yù)測誤差X2(? - ?),(**),如果參數(shù)沒有發(fā)生變化，則?=0，矩陣式簡

44、化為,(***),（***）式與（**）式,這里：KU - KR=n2 RSSU=RSS1,分別可看成受約束與無約束回歸模型，于是有如下F檢驗(yàn)：,第一步，在兩時(shí)間段的合成大樣本下做OLS回歸，得受約束模型的殘差平方和RSSR ； 第二步，對前一時(shí)間段的n1個(gè)子樣做OLS回歸，得殘差平方和RSS1 ； 第三步，計(jì)算檢驗(yàn)的F統(tǒng)計(jì)量，做出判斷：,鄒氏預(yù)測檢驗(yàn)步驟：,給定顯著性水平?，查F分布表，得臨界值F?

45、(n2, n1-k-1)，如果 F>F(n2, n1-k-1) ，則拒絕原假設(shè)，認(rèn)為預(yù)測期發(fā)生了結(jié)構(gòu)變化。,例3.6.2 中國城鎮(zhèn)居民食品人均消費(fèi)需求的鄒氏檢驗(yàn)。,1、參數(shù)穩(wěn)定性檢驗(yàn),1981~1994：,RSS1=0.003240,1995~2001：,(9.96) (7.14) (-5.13) (1.81),1981~2001:,(14.83) (27.26)

46、(-3.24) (-11.17),給定?=5%，查表得臨界值F0.05(4, 13)=3.18,結(jié)論：F值>臨界值，拒絕參數(shù)穩(wěn)定的原假設(shè)，表明中國城鎮(zhèn)居民食品人均消費(fèi)需求在1994年前后發(fā)生了顯著變化。,2、鄒氏預(yù)測檢驗(yàn),給定?=5%，查表得臨界值F0.05(7, 10)=3.18 結(jié)論： F值>臨界值，拒絕參數(shù)穩(wěn)定的原假設(shè),*四、非線性約束,也可對模型參數(shù)施加非線性約束,如對模型,施加非線性約束

47、?1?2=1,得到受約束回歸模型:,該模型必須采用非線性最小二乘法（nonlinear least squares）進(jìn)行估計(jì)。 非線性約束檢驗(yàn)是建立在最大似然原理基礎(chǔ)上的,有最大似然比檢驗(yàn)、沃爾德檢驗(yàn)與拉格朗日乘數(shù)檢驗(yàn).,1、最大似然比檢驗(yàn) (likelihood ratio test, LR),估計(jì):無約束回歸模型與受約束回歸模型， 方法:最大似然法， 檢驗(yàn):兩個(gè)似然函數(shù)的值的差異是否“足夠”大。,

48、記L(?,?2)為一似然函數(shù):無約束回歸 : Max:,受約束回歸 : Max:,約束：g(?)=0,或求極值：,g(?):以各約束條件為元素的列向量, ?’：以相應(yīng)拉格朗日乘數(shù)為元素的行向量,受約束的函數(shù)值不會(huì)超過無約束的函數(shù)值，但如果約束條件為真，則兩個(gè)函數(shù)值就非?！敖咏薄?由此，定義似然比（likelihood ratio）:,如果比值很小，說明兩似然函數(shù)值差距較大，則應(yīng)拒絕約束條件為真的假設(shè)； 如果比值

49、接近于１，說明兩似然函數(shù)值很接近，應(yīng)接受約束條件為真的假設(shè)。,具體檢驗(yàn)時(shí)，由于大樣本下：,h是約束條件的個(gè)數(shù)。因此：通過LR統(tǒng)計(jì)量的?2分布特性來進(jìn)行判斷。,在中國城鎮(zhèn)居民人均食品消費(fèi)需求例中，對零階齊次性的檢驗(yàn)：,LR= -2(38.57-38.73)=0.32,給出?=5%、查得臨界值?20.05(1)＝3.84， LR< ?20.05(1),不拒絕原約束的假設(shè)， 結(jié)論:中國城鎮(zhèn)居民對食品的人均消費(fèi)需求函數(shù)滿足零階

50、齊次性條件。,２、沃爾德檢驗(yàn)（Wald test, W）,沃爾德檢驗(yàn)中，只須估計(jì)無約束模型。如對,在所有古典假設(shè)都成立的條件下，容易證明,因此，在?1+?2=1的約束條件下:,記,可建立沃爾德統(tǒng)計(jì)量:,如果有h個(gè)約束條件，可得到h個(gè)統(tǒng)計(jì)量z1,z2,…,zh 約束條件為真時(shí)，可建立大樣本下的服從自由度為h的漸近?2 分布統(tǒng)計(jì)量:,其中，Z為以zi為元素的列向量，C是Z的方差-協(xié)方差矩陣。因此，W從總體上測量了無約束回歸不滿足約

51、束條件的程度。對非線性約束，沃爾德統(tǒng)計(jì)量W的算法描述要復(fù)雜得多。,3、拉格朗日乘數(shù)檢驗(yàn),拉格朗日乘數(shù)檢驗(yàn)則只需估計(jì)受約束模型. 受約束回歸是求最大似然法的極值問題:,?’是拉格朗日乘數(shù)行向量，衡量各約束條件對最大似然函數(shù)值的影響程度。,如果某一約束為真，則該約束條件對最大似然函數(shù)值的影響很小，于是，相應(yīng)的拉格朗日乘數(shù)的值應(yīng)接近于零。 因此，拉格朗日乘數(shù)檢驗(yàn)就是檢驗(yàn)?zāi)承├窭嗜粘藬?shù)的值是否“足夠大”，如果“足

52、夠大”，則拒絕約束條件為真的假設(shè)。,拉格朗日統(tǒng)計(jì)量LM本身是一個(gè)關(guān)于拉格朗日乘數(shù)的復(fù)雜的函數(shù)，在各約束條件為真的情況下，服從一自由度恰為約束條件個(gè)數(shù)的漸近?2分布。,同樣地，如果為線性約束，LM服從一精確的?2分布：,(*),n為樣本容量，R2為如下被稱為輔助回歸（auxiliary regression）的可決系數(shù):,如果約束是非線性的，輔助回歸方程的估計(jì)比較復(fù)雜，但仍可按（*）式計(jì)算LM統(tǒng)計(jì)量的值。 最后，一般地有:LM≤LR