多元線性回歸與logistic回歸

1、第十一章 第十一章 多元線性回歸與 多元線性回歸與 logistic logistic 回歸 回歸一、教學(xué)大綱要求 一、教學(xué)大綱要求（一）掌握內(nèi)容 （一）掌握內(nèi)容1．多元線性回歸分析的概念：多元線性回歸、偏回歸系數(shù)、殘差。2．多元線性回歸的分析步驟：多元線性回歸中偏回歸系數(shù)及常數(shù)項(xiàng)的求法、多元線性回歸的應(yīng)用。3．多元線性回歸分析中的假設(shè)檢驗(yàn)：建立假設(shè)、計(jì)算檢驗(yàn)統(tǒng)計(jì)量、確定 P 值下結(jié)論。4．logistic 回歸模型結(jié)構(gòu)：模型結(jié)構(gòu)、發(fā)病

2、概率比數(shù)、比數(shù)比。5．logistic 回歸參數(shù)估計(jì)方法。6．logistic 回歸篩選自變量：似然比檢驗(yàn)統(tǒng)計(jì)量的計(jì)算公式；篩選自變量的方法。（二）熟悉內(nèi)容 （二）熟悉內(nèi)容常用統(tǒng)計(jì)軟件（SPSS 及 SAS）多元線性回歸分析方法：數(shù)據(jù)準(zhǔn)備、操作步驟與結(jié)果輸出。（三）了解內(nèi)容 （三）了解內(nèi)容標(biāo)準(zhǔn)化偏回歸系數(shù)的解釋意義。二、教學(xué)內(nèi)容精要 二、教學(xué)內(nèi)容精要(一) 多元線性回歸分析的概念 多元線性回歸分析的概念將直線回歸分析方法加以推廣，用回歸

3、方程定量地刻畫一個(gè)應(yīng)變量Y 與多個(gè)自變量 X間的線形依存關(guān)系，稱為多元線形回歸（ multiple linear regression ） ，簡稱多元回歸（multipleregression）基本形式：? ? b ?b X ?b X ????? b X Y0 1 1 2 2 k k ? 為各自變量取某定值條件下應(yīng)變量均數(shù)的估計(jì)值，X ， X ，…， X 為自變量，k 為 式中Y1 2 k自變量個(gè)數(shù)，b0 為回歸方程常數(shù)項(xiàng)，也稱為截距，

4、其意義同直線回歸，b1 ，b2 ，…, bk 稱為偏回歸系數(shù) （partial regression coefficient ） ，bj 表示在除 Xj 以外的自變量固定條件下，Xj 每改變一個(gè)單位后Y 的平均改變量。(二) 多元線性回歸的分析步驟 多元線性回歸的分析步驟? 是與一組自變量X ， X ，…， X 相對應(yīng)的變量Y 的平均估計(jì)值。 Y1 2 k多元回歸方程中的回歸系數(shù)b1 ，b2 ，…, bk 可用最小二乘法求得，也就是求出

5、能使估計(jì)2 2 ? ? 值Y 和實(shí)際觀察值Y 的殘差平方和?ei ? ?(Y ?Y) 為最小值的一組回歸系數(shù)b1 ，b2 ，…,bk 值。根據(jù)以上要求，用數(shù)學(xué)方法可以得出求回歸系數(shù) b1 ，b2 ，…, bk 的下列正規(guī)方程組（normal equation） ：98反應(yīng)記為Yi =1，否則Yi =0。相應(yīng)地用Pi 表示其發(fā)生陽性反應(yīng)的概率；用Qi 表示其發(fā)生陰性反應(yīng)的概率，仍然有Pi +Qi =1。 Pi 和Qi 的計(jì)算如下：e?0

6、??1Xi1??2Xi2 ? ??k Xik P i ?1? e?0 ??1Xi1??2Xi2 ? ??k Xik1Qi ?1? e?0 ??1Xi1??2Xi 2 ? ??k Xik比取自然對數(shù)得到關(guān)系式：ln? ?這樣，第i 個(gè)觀察對象的發(fā)病概率比數(shù)（ odds）為Pi Qi ，第l 個(gè)觀察對象的發(fā)病概率比數(shù)為 Pl Ql ，而這兩個(gè)觀察對象的發(fā)病概率比數(shù)之比值便稱為比數(shù)比OR （odds ratio） 。對比數(shù)? Pi Qi ?

7、? ? ?1(Xi1 ? Xl1) ? ?2(Xi2 ? Xl2) ??? ?k (Xik ? Xlk ) ? ? Pl Ql ?等式左邊是比數(shù)比的自然對數(shù)，等式右邊的 Xij ? Xlj ? ??j ? 1 ， 2， ?，k?是同一因素 Xi 的不同暴露水平 Xij 與 Xlj 之差。?j 的流行病學(xué)意義是在其它自變量固定不變的情況下， 自變量 Xj 的暴露水平每改變一個(gè)測量單位時(shí)所引起的比數(shù)比的自然對數(shù)改變量。或者說，在其他自變量固

8、定不變的情況下，當(dāng)自變量 X j 的水平每增加一個(gè)測量單位時(shí)所引起的比數(shù)比為增加前的 e ?j倍。同多元線性回歸一樣，在比較暴露因素對反應(yīng)變量相對貢獻(xiàn)的大小時(shí)，由于各自變量的取值單位不同，也不能用偏回歸系數(shù)的大小作比較，而須用標(biāo)準(zhǔn)化偏回歸系數(shù)來做比較。標(biāo)準(zhǔn)化偏回歸系數(shù)值的大小，直接反映了其相應(yīng)的暴露因素對應(yīng)變量的相對貢獻(xiàn)的大小。標(biāo)準(zhǔn)化偏回歸系數(shù)的計(jì)算，可利用有關(guān)統(tǒng)計(jì)軟件在計(jì)算機(jī)上解決。（五） （五）logistic logistic 回

9、歸參數(shù)估計(jì) 回歸參數(shù)估計(jì)由于 logistic 回歸是一種概率模型， 通常用最大似然估計(jì)法 （maximum likelihood estimate ）求解模型中參數(shù)?j 的估計(jì)值bj( j ?1 ， 2， ，k) 。Y 為在 X1, X2,?, Xk 作用下的陽性事件（或疾?。┌l(fā)生的指示變量。其賦值為：應(yīng) ?1 ，第i個(gè)觀察對象出現(xiàn)陽性反 Yi ? ?0，第i個(gè)觀察對象出現(xiàn)陰性反應(yīng) ?第i 個(gè)觀察對象對似然函數(shù)的貢獻(xiàn)量為：Yi 1?Y