1、第七章帶有線性約束的多元線性回歸模型及其假設檢驗在本章中，繼續討論第五章的模型，但新的模型中，參數B滿足J個線性約束集，R3=q，矩陣R有和B相一致的K列和總共J個約束的J行，且R是行滿秩的，我們考慮不是過度約束的情況，因此，JvK。帶有線性約束的參數的假設檢驗，我們可以用兩種方法來處理。第一個方法，我們按照無約束條件求出一組參數估計后，然后我們對求出的這組參數是否滿足假設所暗示的約束，進行檢驗，我們在本章的第一節中討論。第二個方法是我們把參數所滿足的線性約束和模型一起考慮，求出參數的最小二乘解，爾后再作檢驗，后者就是參數帶有約束的最小二乘估計方法，我們在本章的第二節中討論。第一節線性約束的檢

2、驗從線性回歸模型開始，y=X»亠：.(1)我們考慮具有如下形式的一組線性約束，ri1'1ri2'riK'Kqir21'122-2r2K'Kq2aJSS七rJK-k二qj這些可以用矩陣改寫成一個方程RUq(2)作為我們的假設條件H°。R中每一行都是一個約束中的系數。矩陣R有和B相一致的K列和總共J個約束的J行，且R是行滿秩的。因此，J一定要小于或等于KoR的各行必須是線性無關的，雖然J=K的情況并不違反條件，但其唯一決定了3，這樣的約束沒有意義，我們不考慮這種情況。給定最小二乘估計量b,我們的興趣集中于"差異”向量d=Rbq。

3、d精確等于0是不可能的事件(因為其概率是0),統計問題是d對0的離差是否可歸因于抽樣誤差或它是否是顯著的。由于b是多元正態分布的，且d是b的一個線性函數，所以d也是多元正態分布的，若原假設為真，d的均值為0,方差為Vard二VarRbq二R（Varb）R=；丁2R（XX）R（3）對Ho的檢驗我們可以將其基于沃爾德（Wald）準則：W=；：】2(J)=d(Vard)Jd(4)(4)=(Rb-q)22R(XX)R'(Rb-q)在假設正確時將服從自由度為J的2分布（為什么？）。直覺上，d越大，即最小二乘滿足約束的錯誤越大，則2統計量越大，所以，一個大的2值將加重對假設的懷疑。(n-K)s2e

4、e_CT2:二2(5)由于b未知，（4）中的統計量是不可用的，用s2替代d2,我們可以導出一個FJ,（nK）樣本統計量，令l(Rb-q)；2R(XX)R'(Rb-q)/JF二(n_K)s2/二2/(n_K)(6)分子是（1心）乘（4）中的W，分母是1/（nK）乘（5）中的幕等二次型。所以，F是兩個除以其自由度的卡方變量的比率。如果它們是獨立的，則F的分布是FJ,（nK），我們前邊發現b是獨立于s2分布的，所以條件是滿足的。我們也可以直接推導。利用（5）及M是幕等的這一事實，我們可以把F寫為由于.R(b-：)/；R(XX)WR(b-：)/；訂/JF;M(；/；)M(；/；)/(nK)(7

5、)叮R(XX)F統計量是（；/二）的兩個二次型的比率，由于M（；/二）和T（；/二）都服從正態分布且它們的協方差TM為0,所以二次型的向量都是獨立的。F的分子和分母都是獨立隨機向量的函數，因而它們也是獨立的。這就完成了證明。消掉（6）中的兩個62,剩下的是檢驗一個線性假設的F統計量,（Rb-q）R（XX）R（Rb-q）/JF二ee/（nK）(Rb-q)sR(XX)R(Rb-q)(8)J我們將檢驗統計量11FJ,n-K二(Rb_q)Rs2(XX)R(Rb_q)J和F分布表中的臨界值相比較，一個大的F值是反對假設的證據。注意：將wald統計量中的c2用s2去替代，相應的就將J維的卡方分布轉換為維度

6、為（J,n-K）的F分布。第二節參數帶有約束的最小二乘估計一、帶有約束的最小二乘函數在許多問題中，要求其中的未知參數3滿足某特定的線性約束條件：R3=q,這里R是JxK矩陣（JvK）,并假定它的秩為J維向量，常常希望求3的估計畀，使得(9)Y-X?滿足條件（9）的稱為3的具有線性約束R3=q的最小二乘估計。解？的問題實際上是在約束條件R3=q下求yTi=1mXjj壬的限制極值點問題。這個問題的一個拉格朗日解可寫作S、（y-XJ（y-X1）2'（R：-q）解b*和入將滿足必要條件展開可以得到分塊矩陣方程*ScP£S二-2X(y-Xb*)2R=0=2(Rb*-q)=0_XXRr0

7、一_jq-Wd*=v假定括號中的分塊矩陣是非奇異的，約束最小二乘估計量-1d*=Wv-1d*=Wvwhere(X'X)_1R'(R(X'X)JR')J11-(R(X'X)R')b*和入的顯示解F111114(X'X)-(X'X)R'(R(X'X)R')R(X'X)-1-1-1J(R(X'X)R')R(X'X)的解。此外，若X'X是非奇異的，則用分塊逆公式可以得到b*=(X'X)X'y-(X'X)R'(R(X'X)，R')

8、R(X'X)X'y(X'X)JR'(R(X'X)_1R')Jq=(X'X)X'y-(X'X)R'(R(X'X)R')'R(X'X)X'(Xbe)(X'X)JR'(R(X'X)JR')Jq=(X'X)X'y-(X'X)R'(R(X'X)，R')Rb(X'X)JR'(R(X'X)JR')_1q二b-(XX)°RR(XX)R4(Rb-q)-=R(X乂嚴廣阿_q)

9、格林和西克斯(1991)表明b*的協方差矩陣簡單地就是c2乘以W-1的左上塊，在X'X是非奇異的通常情況下，再一次可以得到一個顯性公式Varb*-；2(XX)，i2(XX)'RR(XX)4RR(XX)，,這樣，Varb*二Varb-（一個非負定矩陣），Varb*的方差比Varb小的一個解釋是約束條件提供了更多的信息價值。二、對約束的檢驗的另一個方法令e*=丫一Xb*，我們來計算新的離差平方和e*&。e*二y-Xb-X(b*-b)=e-X(b*-b)則新的離差平方和是aa二ee(b*-b)XX(b*-b)-eee'e2CT8'e*CTn.4k.)因為新的模

10、型中參數的個數為k-J個，J個榆樹條件是原模型中的J個參數可以因為新的模型中參數的個數為k-J個，J個榆樹條件是原模型中的J個參數可以被其他k-J個表示（此表達式中的中間項含有X'e,它是0）。這說明我們可以將一個約束檢驗基于擬合的損這出現在前邊推導的e*e*-ee=（Rb-q）R（XX）'R（Rb-q）F統計量的分子上，我們得到統計量的另一個可選形式。可選形式是(e*"e*-e"e)/JFJ,n-Kee/(nK)失。這個損失是,最后，以SST=丄（y-）？除F的分子和分母，我們得到第三種形式,FJ,n-K(R2-Rj)/J(_R2)/(n_K)由于兩個模型

11、的擬合之差直接體現在檢驗統計量中，這個形式具有一些直觀吸引力。實例對數變換生產函數所有科布一道格拉斯模型的一般化是如下的對數變換模型,22InL-InK-InLInKInY1-21nL-31nK-456(10)222無約束回歸的結果在表1中給出。表1無約束回歸的結果回歸標準誤差0.17994殘差平方和0.67993R平方0.95486調整R平方0.94411變量系數標準誤差t值常數項0.9442162.9110.324LnL3.613631.5482.334LnK1.893111.0161.863In2L20.964060.70741.363In2K20.085290.29260.291InL

12、xInK0.312390.43890.71系數估計量的估計協方差矩陣常數項InLInKLn2L/2Ln2K/2InLxInK常數項8.472LnL2.3882.397LnK0.33131.2311.03312InL0.0876020.66580.52310.500412InK0.233220.034770.026370.14670.08562InLxInK0.36350.18310.22550.28800.11600.1927考慮了約束條件'二訂二飛=0的模型就可以得到科布一道格拉斯模型：InY二：2InL心InK亠：（11）這是一個條件約束下的無條件的多元線性回歸模型。就可以用一般線

13、性回歸的方法求解模型。假如我們通過有約束條件下的無條件的多元線性回歸模型得到：e*8=0.85163，而且nK=21，則科布一道格拉斯模型假設的F統計量是F3,21二-1.768(0.85163-0.67993)/30.67993/21查自F分布表的5%臨界值是3.07,所以我們不能拒絕科布一道格拉斯模型是適當的這一假設。考慮了約束條件*=6"和條件空*飛=1的模型就是滿足規模效應的科布一道格拉斯生產函數。這個模型可以推導如下：InY二rdnL31nK；二冷2InL（1-空）1nK；（.InYInL=-2（lnL-1nK）；假如我們通過有約束條件下的無條件的多元線性回歸模型得到：e*

14、8=0.89172，而且nK=21，則科布一道格拉斯模型假設的F統計量是F4,21二F4,21二=1.635(0.89172-0.67993)/40.67993/21查自F分布表的5%臨界值是2.85，所以我們不能拒絕科布一道格拉斯模型是規模效應的生產函數的這一假設。第三節結構變化與鄒至莊檢驗(StructureChangeandChou-Test)問題提出我們經常碰到這樣的問題。某項政策的出臺及實施，我們經常碰到這樣的問題。某項政策的出臺及實施，其效果如何？不同地區或不同時期內，我們分別可以得到這兩個地區或時期的觀測值,我們的問題是：這兩個地區或時期的情況是否不同，經濟結構有無差異。這類問題

15、，被華人經濟學家鄒至莊用構造的F檢驗解決了（1960年）。這樣的F檢驗的統計量，就稱為鄒至莊檢驗（統計量，就稱為鄒至莊檢驗（Chou-Test)。二、問題的模型表述設（乙Y）,（Z2Y2）分別表示這兩個時期的觀測值，允許兩個時期中系數不同的無約束回歸是丫=乙，我們可以將其改寫成一個回歸方程丫2=Z2戸2+叢丫2設（乙Y）,（Z2Y2）分別表示這兩個時期的觀測值，允許兩個時期中系數不同的無約束回歸是丫=乙，我們可以將其改寫成一個回歸方程丫2=Z2戸2+叢丫2100Z2即Y模型，其中丫=匕丿匹丿，Z=Z1(1)0,Z2上述問題就轉換成檢驗H°：比:我們可以用兩種方式來處理問題）用約束條件

16、|.=遼，來檢驗。l-i=-2是更一般約束條件R3=q的一個特殊形式，其中R=（l,-I）和q=0。這個直接可以從基于Wald統計量的帶約束條件的F檢驗得到。（請自己推導）。例題：用約束條件下，F檢驗推導出鄒至莊檢驗的表達式:解：在約束條件R3=q下，F檢驗(Rb_q)S2R(ZZ)iR(Rb_q)f(J,n_K)=；。即R=（l,-I），而q=0,也即等同于條而鄒至莊檢驗時約束條件R3=q的一種特殊形式,件“=：2。（有2k個參數，并且是有k個約束）。故F(k,nn2-2kH(Rq)S2R(ZZ)ARA(Rq)gb2)S2(l,J)k''(ZZ)丄0I0k(Z2Z2)八-1丿

17、尸（b-b2）(b-b2)s2憶乙)丄(Z2Z2)(b-ba)另外，在考慮了約束條件r服從F（k,m亠n22k）的分布。二'：2后，我們可以將模型（1）改寫成一個無約束的新的回歸方程Zi丫2Z2切:/Y即無約束的線性模型模型，其中叫j/Y即無約束的線性模型模型，其中叫j,Z=，卩3，假如模型（2）的殘差平方和是e*e*,在假設條件'-2下，我們可以得到F統計量可更簡單地表示為:二）更直接、更容易的一個處理是將約束直接構造進模型中，若兩個系數向量相同,則模型（1）就轉換為：（Z,】1lp+1匕丿匕丿迂丿由此我們推導出可以檢驗的鄒至莊統計量(2)Chou-Test。從模型（1）中，

18、我們可以得到無約束最小二乘估計量是/'冷Z1Z10丄。1丫1”Z1Z1)丄0丫Z1Y”IE10Z2Z2；匕2丫2丿11'0(Z2Z2)Z2Y2/一匕丿b=(ZZ)=ZY=e=YZbY：-o0*(Z1Z1)亠z1y”Z2人(Z2Z2)亠Z2Y2丿匕丿iof=i-0Z2Z1（乙乙）丄Z10(Z1ZJz1000'(Z2Z2)Z2丿卜2丿Z2(Z2Z2)亠Z2Jjv2JlelmY；ee=(YY2)MMY''Y2=(YY2)M1Y2則eeT2(m+n22k)c(3)對于有約束條件匚二限制的模型（2）(Z1Z2)(Z1Z2)I丿1:Z；Z!+Z2Z2)(Z；Z2)丫丫1'丿匕丿LM2=(¥Y2)M2M2r(YY2)M則邑!2（厲rbk）cr&(YYJMs1v2Je*'e*_ee=(YiY2)(M2MJ|：問ee-ee服從何分布?a首先證明：M3M1=02(M2-M1)MM2MM1=m2mm1=2<0丿