1、3.3 多元線性回歸模型的統計檢驗多元線性回歸模型的統計檢驗 一、擬合優度檢驗一、擬合優度檢驗 二、方程的顯著性檢驗二、方程的顯著性檢驗(F(F檢驗檢驗) ) 三、變量的顯著性檢驗（三、變量的顯著性檢驗（t t檢驗）檢驗） 四、參數的置信區間四、參數的置信區間 一、擬合優度檢驗一、擬合優度檢驗 1、可決系數與調整的可決系數、可決系數與調整的可決系數則2222)()(2)()()()(YYYYYYYYYYYYYYTSSiiiiiiiiii 總離差平方和的分解總離差平方和的分解由于 )()(YYeYYYYiiiiikiikiiieYXeXee110=0所以有： ESSRSSYYYYTSSiii22

2、)()(注意：注意：一個有趣的現象一個有趣的現象 222222YYYYYYYYYYYYYYYYYYiiiiiiiiiiii 可決系數可決系數TSSRSSTSSESSR12該統計量越接近于1，模型的擬合優度越高。 問題：問題： 在應用過程中發現，如果在模型中增加一個解釋變量， R2往往增大（Why?) 這就給人一個錯覺一個錯覺：要使得模型擬合得好，只要使得模型擬合得好，只要增加解釋變量即可要增加解釋變量即可。 但是，現實情況往往是，由增加解釋變量個數引起的R2的增大與擬合好壞無關，R2需調整需調整。 調整的可決系數調整的可決系數（adjusted coefficient of determina

3、tion） 在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調整的思路是:將殘差平方將殘差平方和與總離差平方和分別除以各自的自由度，以剔和與總離差平方和分別除以各自的自由度，以剔除變量個數對擬合優度的影響除變量個數對擬合優度的影響:) 1/() 1/(12nTSSknRSSR其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。11)1 (122knnRR *2、赤池信息準則和施瓦茨準則、赤池信息準則和施瓦茨準則 為了比較所含解釋變量個數不同的多元回歸模型的擬合優度，常用的標準還有: 赤池信息準則赤池信息準則（Akaike information criterion,

4、AIC）nknAIC) 1(2lnee施瓦茨準則施瓦茨準則（Schwarz criterion，SC） nnknAClnlnee 這兩準則均要求這兩準則均要求僅當所增加的解釋變量能夠減少僅當所增加的解釋變量能夠減少AICAIC值或值或ACAC值時才在原模型中增加該解釋變量值時才在原模型中增加該解釋變量。 Eviews的估計結果顯示： 中國居民消費一元例中： AIC=6.68 AC=6.83 中國居民消費二元例中： AIC=7.09 AC=7.19從這點看，可以說前期人均居民消費CONSP(-1)應包括在模型中。 二、方程的顯著性檢驗二、方程的顯著性檢驗(F檢驗檢驗) 方程的顯著性檢驗，旨在對模

5、型中被解釋變方程的顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關系量與解釋變量之間的線性關系在總體上在總體上是否顯著是否顯著成立作出推斷。成立作出推斷。 1、方程顯著性的、方程顯著性的F檢驗檢驗 即檢驗模型 Yi=0+1X1i+2X2i+ +kXki+i i=1,2, ,n中的參數j是否顯著不為0。 可提出如下原假設與備擇假設： H0： 0=1=2= =k=0 H1： j不全為0 F F檢驗的思想檢驗的思想來自于總離差平方和的分解式： TSS=ESS+RSS由于回歸平方和2iyESS是解釋變量X的聯合體對被解釋變量 Y 的線性作用的結果，考慮比值 22/iieyRSSESS 如果這個

6、比值較大，則X的聯合體對Y的解釋程度高，可認為總體存在線性關系，反之總體上可能不存在線性關系。 因此因此, ,可通過該比值的大小對總體線性關系進行推可通過該比值的大小對總體線性關系進行推斷斷。 根據數理統計學中的知識，在原假設H0成立的條件下，統計量 ) 1/(/knRSSkESSF服從自由度為(k , n-k-1)的F分布 給定顯著性水平，可得到臨界值F(k,n-k-1)，由樣本求出統計量F的數值，通過 F F(k,n-k-1) 或 FF(k,n-k-1)來拒絕或接受原假設H0，以判定原方程總體上總體上的線性關系是否顯著成立。 對于中國居民人均消費支出的例子： 一元模型：F=285.92 二

7、元模型：F=2057.3給定顯著性水平 =0.05，查分布表，得到臨界值： 一元例：F(1,21)=4.32 二元例： F(2,19)=3.52顯然有 F F(k,n-k-1) 即二個模型的線性關系在95%的水平下顯著成立。 2、關于擬合優度檢驗與方程顯著性檢關于擬合優度檢驗與方程顯著性檢驗關系的討論驗關系的討論 由) 1/() 1/(12nTSSknRSSR) 1/(/knRSSkESSF可推出：kFknnR1112與或) 1/()1 (/22knRkRF在在中國居民人均收入中國居民人均收入-消費消費一元模型一元模型中，中，在在中國居民人均收入中國居民人均收入-消費消費二元模型二元模型中中，

8、 三、變量的顯著性檢驗（三、變量的顯著性檢驗（t檢驗）檢驗） 方程的總體線性總體線性關系顯著 每個解釋變量每個解釋變量對被解釋變量的影響都是顯著的 因此，必須對每個解釋變量進行顯著性檢驗，以決定是否作為解釋變量被保留在模型中。 這一檢驗是由對變量的這一檢驗是由對變量的 t t 檢驗完成的。檢驗完成的。 1、t統計量統計量 由于12)()(XXCov 以cii表示矩陣(XX)-1 主對角線上的第i個元素，于是參數估計量的方差為： iiicVar2)( 其中2為隨機誤差項的方差，在實際計算時，用它的估計量代替: 1122knkneiee),(2iiiicN因此，可構造如下t統計量 ) 1(1knt

9、kncStiiiiiiiee 2、t檢驗檢驗 設計原假設與備擇假設： H1：i0 給定顯著性水平，可得到臨界值t/2(n-k-1)，由樣本求出統計量t的數值，通過 |t| t/2(n-k-1) 或 |t|t/2(n-k-1)來拒絕或接受原假設H0，從而判定對應的解釋變判定對應的解釋變量是否應包括在模型中。量是否應包括在模型中。 H0：i=0 （i=1,2k） 注意：注意：一元線性回歸中，一元線性回歸中，t t檢驗與檢驗與F F檢驗一致檢驗一致 一方面一方面，t檢驗與F檢驗都是對相同的原假設H0： 1=0=0 進行檢驗; 另一方面另一方面，兩個統計量之間有如下關系： 22221222122212

10、2212212)2()2()2()2(txnexnexnenexneyFiiiiiiiiii在中國居民人均收入中國居民人均收入-消費支出消費支出二元模型二元模型例中，由應用軟件計算出參數的t值：651. 2630. 3306. 3210ttt 給定顯著性水平=0.05，查得相應臨界值： t0.025(19) =2.093。可見，計算的所有計算的所有t值都大于該臨界值值都大于該臨界值，所以拒絕原假設。即:包括常數項在內的包括常數項在內的3個解釋變量都在個解釋變量都在95%的水的水平下顯著，都通過了變量顯著性檢驗。平下顯著，都通過了變量顯著性檢驗。 四、參數的置信區間四、參數的置信區間 參數的參數

11、的置信區間置信區間用來考察：在一次抽樣中所估在一次抽樣中所估計的參數值離參數的真實值有多計的參數值離參數的真實值有多“近近”。 在變量的顯著性檢驗中已經知道：在變量的顯著性檢驗中已經知道：) 1(1kntkncStiiiiiiiee容易推出容易推出：在(1-)的置信水平下i的置信區間是 (,)iitstsii22其中，t/2為顯著性水平為 、自由度為n-k-1的臨界值。 在中國居民人均收入中國居民人均收入-消費支出消費支出二元模型二元模型例中,給定=0.05，查表得臨界值：t0.025(19)=2.093計算得參數的置信區間： 0 ：(44.284, 197.116) 1 ： (0.0937, 0.3489 ) 2 ：(0.0951, 0.8080)170. 04515. 0061. 02213. 051.3670.120210210sss 從回歸計算中已得到：如何才能縮小置信區間？如何才能縮小置信區間？ 增大樣本容量增大樣本容量n n，因為在同樣的樣本容量下，因為在同樣的樣本容量下，n n越越大，大，t t分布表中的臨界值越小，同時，增大樣本容分布表中的臨界值越小，同時，增大樣本容量，還可使樣本參數估計量的標準差減小；量，還可使樣本參數估計量的標準差減小；提高模型的擬合優