1、文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持第三章異方差與自相關廣義線性模型本章繼續討論線性模型Y=X B + e , E ( £ )=0(所不同在于以前的關于誤差方差的假定是Var( e )= 0- 2In(這一章逐次推廣討論。第一節討論異方差的存在與檢驗，尤其是在經濟模型資料中的存在與影響，第二節討論的是 ,222Var( ) diag (1，n )，i /1， ，n 已知(22222222Var( ) diag ( 1 , 1 , 1 ,2,2, 2), 1 , 2 未知22、2Var( ) diag( 1, , n), iexp(Zi )，未知(這些都是誤差方

2、差為對角陣的模型。第三節討論自相關線性模型。首先討論的是殘差一階自回歸線性模型，它的殘差滿足此時殘差e i的方差雖不為對角陣, 模型，它的誤差假設是E( i) 0,E( 2)2,E( i j) 0,(i j)但只含一個參數。 接著我們介紹自回歸條件異方差(ARCH)22i 01 i 122E( i) 0,E( 2)2,E( i j) 0,(i j)因為模型計算中用到了廣義矩估計方法(GMM),我們在第四節又介紹了GMM。第五節討論的是22Var( ) M 0, 未知，M已知第六節討論的是22Var( ) M 0, 未知，M已知所討論的內容還是各種回歸模型、算法及性質。第一節異方差的存在與檢驗一

3、、異方差的存在與影響前面介紹的線性回歸模型，都是假定隨機誤差項ei獨立同分布，有相同的方差1文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持(Homoscedasticity)E( i) 0, Var(i)2但是實際抽樣很難保證這一點。經濟對象千差萬別，群體間的差別導致樣本方差不一致，于是就有所謂異方差可以按不同標準劃分成不同的群體。這些(Heteroscedasticity):E( i) 0, Var(反映在散點圖上，如下圖可以明顯看出樣本方差與點圖(Xi, Yi)有關，隨著樣本數值增大而增大。由于樣本方差的差異，原來最小二乘估計的一些優良性質

4、不再存在。如在一元線性回歸01Xi i,1,我們知道最小二乘估計SXYn(Xi X)(Yi Y)1SXXi 1n(Xij 1X)2Xi XYSxx i(XX(XiVar( ri)(XiSXXX)Var (Yi)Var(。)X(XiSXX一 2X)Var(Yi)現在Var(Yi)不是常量，我們就無法證明0是最小方差線性無偏估計。顯著性檢驗也成了問題。原來構造的 F統計量是分子分母都含有未知參數(T2,可以分別提取公因式再約去，現在是異方差，按原來方法構造的F統計量里的未知參數無法直接約去，預測精度也無法保證。差不多原來推導的各種統計方法、統計性質由于基礎動搖而都需重新考慮。因此我們需要將一般線性

5、回歸模型推廣。題。不過在推廣之前，首先要解決異方差的檢驗問二、異方差的檢驗異方差的檢驗一般需要比較大的樣本，一般都是作所謂殘差分析。 圖2文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持 最簡單直觀的方法是將殘差平方? (Y 玲2, i 1, ,n(與年畫在一張圖上，大致可以看出殘差是否發生改變。圖，其余圖像都指示有異方差。還有一些方法對異方差問題作統計檢驗。1. Park檢驗2R. E. Park建議將i看作解釋變重X的函數，并使用函數形式為22Xi e i(或取對數其中是隨機分布項。因為 ：未知，就用殘差項的平方e2代替對上式作回歸，并作假設

6、檢驗。若 3=0成立，則認為異方差不成立；若 3 W0成立，則認為 異方差成立。Park檢驗要作兩次最小二乘，第一次是對原始資料對(Xi, Yi),獲彳#年,？；第二次是對 (Xi,?2)。從某種意義上講，是用第二次最小二乘去否定第一次最小二乘，用第二次假設去否定第一次假設。類似的還有Glejser檢驗，不過使用的回歸方程不一樣。2. Breusch Pagan Godfrey (BPG)檢驗這里考慮的是多元問題，基本思想差不多。設原始資料滿足模型Y 0 iXiimXmi i先用普通最小二乘獲得 Y?,?，作2n?n i 11 n注意這里不是 ?2 (Yi Y；)2。然后定義變量n m 1 i

7、 14 / 2Pi格/用Pi與Xji去作回歸Pi 01 X1imX mi i3文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理.word版本可編輯.歡迎下載支持們救得回歸平萬和Ses,定義統計量1s1 n2Ses2i(P?iPi)21(口以證明在止態假設卜，當樣本容量充分大時， m 1，（n有漸近分布：）(于是對給定顯著性水平，當 超過 2分布的臨界值時，就拒絕同方差假設，算例3.1.2消費-收入異方差資料的 BPG檢驗接受異力差假設。在文獻1里，收付表3.1.2 消費（Y）,組消費（Y）與收入（X）的資料，共 收入（X）60對，要求作異方差檢驗。YXYXYX55.80.152.

8、220.95.140.65.100.144.210.108.145.70.85.175.245.113.150.80.110.180.260.110.160.79.120.135.190.125.165.84.115.140.205.115.180.98.130.178.265.130.185.95.140.191.270.135.190.90.125.137.230.120.200.75.90.189.250.140.205.74.105.55.80.140.210.110.160.70.85.152.220.113.150.75.90.140.225.125.165.65.100.137.

9、230.108.145.74.105.145.240.115.180.80.110.175.245.140.225.84.115.189.250.120.200.79.120.180.260.145.240.90.125.178.265.130.185.98.130.191.270.當然在計算機數據文件里它是排成2算得原始資料回歸方程為Y? 9.2903而不是6歹U。0.6378Xi使用我們自編的異方差檢驗程序，（4文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持再將Pi對Xi回歸，得方程?i0.7426 0.0101Xi(程序算得統計量5.21

10、40(從程序自帶的電子數表上查得2.99(1) =6,6349,因為5.2140<6,6349,故在0.01的顯著性水平，不認為異方差存在，于是有了進一步回歸分析的可能。當取顯著性水平為0.05時，0.95(1)=3.8414,于是認為異方差存在，就只打印一般最小二乘回歸結果，不能作出基于正態同方差的統計檢驗。實際計算執行過程如下，由于F統計量高達4722,再看擬合效果圖(圖，(丫，1 )與(詔,1 )確實擬合非常好。很難想象這里面還會有什么問題。下面是計算過程與結果。異方差資料 BPG檢驗計算程序，例第一列為Y,以后各列為 X例312.D數據文件中，n=60, M=1要顯示原始資料嗎？

11、 0=不顯示，1=顯示(0)原始資料回歸方程：Y = b0 + b1*X1 + . + bm*Xm回歸系數 b0,b1,b2,9.2903.6378.0000殘差平方和：4722.31 回歸平方和：83773.38誤差方差的估計：,0000標準差=8.8716請輸入卡方檢驗的置信水平(0.01)BPG檢驗Z果：顯著性水平：,01 統計量 5.2140卡方臨界值：6.6349方差資料回歸方程：Pi = a0 + a1*X1 + . + am*Xm回歸系數 a0,a1,a2,-.7426.0101.0000殘差平方和：97.82 回歸平方和：20.86誤差方差的估計：,0000標準差=1.2768

12、BPG檢驗通過，不認為有異方差，對原始資料進行一般回歸分析并打印計算結果現在作線性回歸顯著性檢驗，計算t,F,R統計量請輸入顯著性水平 a,通常取a=0.01, 0.05, 0.10, a=?(0.01)線性回歸分析計算結果樣本總數60自變量個數1回歸方程 丫 = b0+b1*X1+.+b1*X1Y =9.2903 +.6378 X1回歸系數 b0, b1, b2, ., b15文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理.word版本可編輯.歡迎下載支持.63789.2903殘差平方和：4722.31回歸平方和：83773.38誤差方差的估計：78.7051 標準差 =8.

13、8716線性回歸顯著性檢驗顯著性水平：.010回歸方程整體顯著性 F檢驗，H0:b0=b1=.=b1=0F 統計量：1028.9160 F 臨界值 F(1,58)7.093全相關系數 R :.9730回歸系數逐一顯著性 t檢驗，H0:bi=0, i=1,.,1t 臨界值 t( 58)2.3924回歸系數b1-b 1的t值：7.6158要作回歸預測嗎？鍵入0=不預測，1=要預測(0)要打印擬合數據嗎？ 0=不打印，1=打印 (0)計算結束。再看原始資料的散點圖(Yi, Xi )(圖，覺得資料似乎分為兩段，前段方差較小，后段方差較大。圖再看殘差圖«2,丫(圖，確實存在明顯的異方差，在 Y

14、=140以前，方差較小，在 Y=140 以后，方差明顯增大。這些圖像都由本軟件自動生成，很方便。圖第二節協方差為對角陣的廣義線性模型一、協方差為已知對角陣與廣義最小二乘我們先考慮簡單的情況，設模型為Y X_222(E( ) 0,Var( ) diag( 1,2, n)如果i2,i 1, ,n已知，也就是 已知，則我們定義 B的廣義最小二乘估計為? (X 1X) 1X1Y(6文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持 廣義最小二乘估計 (Generalized Least Square Estimate)簡稱為 GLS 估計，是 A. C.

15、Aitken(1934) 首先提出來的。在中是對角陣的情形，容易找到P diag( 11, 21, n1)(使得1P P 1(我們定義變換* * *X PX, Y PY, P(則原模型成為* * *Y X* * (E( ) 0,Var( ) In? (X X ) 1X Y(這就轉化成了普通的最小二乘估計。這種情況的估計也稱為加權最小二乘估計(Weighted Least Square Estimate, WLS 估計)，因為我們實際上是對觀測值作了加權處理，權函數是i 1,i 1, , n。此時我們極小化的函數是n2 (Y X )1(Y X )(i 1 i我們看到，較小的b i將使該項變大，從

16、而發揮較大的作用， 而較大的b i表示該項資料不可靠， 就使其發揮較小的作用。這一點從n1 n?i2XiXii2XiY(i 1i 1也容易看出。二、僅含兩個未知方差量的模型下面考慮方差未知的情況，很明顯這時未知方差不能太多。如果是 diag ( 12, , 2)全部未知，我們就無從下手了。因為一共只有n組資料，如何去估計 n個方差？我們就假定只有兩個方差量的情況，；與2未知，模型被劃分為7文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持Xi丫2X2(YiY2),X(X1X2),_1Var( ) E ( 1 2)212|n12|n2這里 Yin 1

17、,Xn m, mi, in 1/1,2； Ai 扈 Ao Y這樣模型可以被劃分成兩個模型，它們必須要有相同的回歸系數，但方差則不同。丫 X12,1 ,Var ( 1 )1 1 n1Y2X22 , 2,Var( 2)2 1 n2我們當然不能想象這兩個子模型完全分開，各算各的。在2和2已知時，由前一段的廣義最小二乘方法，有X2Y2221111(XX) X YX1X1 X2X2X1Y12-2-2121現在情況是 12與;未知，必須先估計它們。這倒不難，方差是分開的，在各臼的子模型中估計就是了：2 -SR -(Yi Xi ?)(Yi Xi?i),i 1,2ni m ni m?i (XiXi) 1XiY

18、i,i 1,2在有了各自的方差估計后，在 （？i2 i2? (X 1X) 1X 1YX1X1 X2X2X1Y1X2Y2可以證明？的漸近性質n( ?) d N(0,(X ? 1X) 1)據此我們可以作出3的區間估計與假設檢驗。本段所使用的二步估計法： 先估計方差，再估計回歸系數，在處理這一類問題中經常用到。三、乘子異方差模型本段繼續推廣異方差模型， 考慮未知的方差可能有多個， 不過它們被寫成一個特殊的函數8文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持Y Xi i2(E( J 0,Var( J i exp(Zi ),i 1, ,n這里Zi(Zil

19、, Zi2，, Zik )是一個(1 X k)的已知向量，通常Zi1=1,而其余的Zi也是Xi的函(Zii,Zi2, , Zik)是一個(kx 1)的未知向量。模型的任務是估計方差可被寫為21 exp( 1) exo( 2Zi2) exp( kZ)故稱為乘子異方差模型。當 k=2 時，取 lnxi = Zi2, In 0- 2= a 1, p= a 2,則2 exp( Zi ) exp( 12Zi2)2Xip在一般情況下，2iexp(Zi ) exp( 12Zi2kk)22*exp( 2Zi2kZik)exp(Zi )這里z (Zi2, ,Zik),( 2, , k)。如果采用矩陣記號，在模型

20、(,exp(Z2 )exp(Z2 )exp(Zn )，一*'*、exp(Z1)，一*'*、2exp(Z2)一*'*、exp(Zn1 )如果我們能得到估計 ？，那么就能得到估計？：,也就能得到估計 ？。我們就沿著這條思路作下去。首先對2取對數得In i2 Zi(模型的殘差向量為9文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持? Y Xi?,i 1, ,n(這里? (XX) 1XY(這樣ln72,i 1,刀就計算出來了，結合(In / ZiIn ： In 7 Zi i,i 1, ,n(這里 iIn 72 In j ln( ？

21、 / i In(才/ i2) In( ：/ i2)；,(n) 10文檔收集于互聯網，如有不妥請聯系刪除)。方程組(，In ?是通常的觀測值，乙是設計矩陣里的向量，a是kxi的未知向量，隨機誤差項里也含有待估參數，暫不作考慮，一起記作q Z(這里q (In?2,刖胃)2 (Z1， ，Zk),( i，n),使用最小二乘，就得到”的估計1? (ZZ) Zq(這個估計的性質真是說不清楚，因為(ZZ) Z ，而這里的v期望不一定為0,并且v里包含有我們可以求助于漸近性質。記1-1-XX Q, -X X V nn假定Q、V都非奇，考慮？i的均值與方差，我們有E(? i)2 Xi(XX) 1XE X(XX)

22、1Xi 2Xi(XX) 1X X(XX) 1Xi 211v XX X X XX vX iXn n n n當n 00時,因此E(? i)20,于是(？ i)0,即? i,(n)文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持如果假定 N(0, i2),則2 / 22，而ln(i2/ 2) ln 2，它的期望值可以算 出： * _ _ _E( i )1.2704(Var( i) E( i E(i)2 4,9348(Cov( i , j) 0, ij(現在我們終于松了一口氣。從漸近分布來看，模型 (，方差是常數，這完全滿足普通最小 一一.一一 、一 一一 * 、 一 .二乘模型的假設。只

23、是i的期望不為0,不過這不要緊，將期望值撥到模型的常數項，也就是“1里去就可以了。對于新的?( i 1.2704, 2, , k)(它已是一個很好的 LSE。同時我們還知道，而？*) d N(0,4.93481)(這里1 lim Z Z(n n現在該倒過來總結一下模型的算法。 從資料陣(Y X) YiX1i, ,Xmi：,以及Z1i, ,Zki ； 我們建立了模型(？ (XX)1XY, ? Y X ?, In ?2 q后我們得到模型(，從它又算出 ? (Z Z) 1Z q ,于是估計出？i2 ep(Zi ?) , ?,最后得到？及？。? (X ? 1X) 1X ? 1Y(? (Y X ?) ?

24、 1(Y X ?) /(n m)(由于存在漸近分布.n(?) d N(0, ?2(X ? 1X) 1)(我們可以據此作出關于？的假設檢驗。第三節自相關線性模型11文檔收集于互聯網，如有不妥請聯系刪除.文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持前面介紹的線性模型Y XE( ) 0,Var( ) diag( j, , 2)中只是對角陣，表示隨機觀測項Yi, i=1,n是彼此不相關的。在經濟分析中，經常遇到的問題是這種不相關假設難以滿足。這通常有三種可能：（1）Yi依賴于自身過去白數值，比如Yi是年度的經濟指針，就與過去的基礎有關；（2）X包含解釋變量的當前或滯后的數值，即由于 X

25、的相關性也造成 Y的相關性；（3）隨機誤差項e本身相關，它依賴于先前的隨機誤差值。前面 兩種情況意味著 X也是隨機的，我們放到以后的章節研究。這一節重點研究由于隨機誤差項 £自身相關形成的自相關模型一、殘差一階自回歸線性模型隨機誤差項的結構不同可能形成許多不同的線性模型。最普遍實用的是殘差一階自回歸過程的線性模型：Y Xii,i 1, ,ni i i i ,i 2, ,n（_22_E（ i） 0, E（ i ）, E i j 0, i j我們可以看出，對于原始資料Yi, Xi,它的隨機誤差項e i不滿足普通最小二乘方法要求的不相關 性。但是退而問其次，關于ei我們可以建立起一個真正的

26、普通最小二乘模型。當|p |<1時，一階自回歸過程是平穩的，i i i 1 i ( i 1 i 2) i于是kE( i)E( i k)0k 0Var( i)2kVar( i k)k 02k 2k 0E( i i 2) E( iE i22類似地12文檔收集于互聯網，如有不妥請聯系刪除1) E( i 1 i)E( i i 2)E( i 1 i 2) E( i 2 i)E( i 2 i1) i 2) E( i 2 i)文檔來源為：從網絡收集整理.word版本可編輯.歡迎下載支持22E( iis) L,s 1,2,3,注意它們都有公共因子于是我們獲得誤差協方差陣:E( ) E21211 n21

27、nn 1n 2n n1212n 1n 221n 3n 3112n 1n 2如果記矩陣1112n 1n 21n 1n 2n 312則階自回歸的線性模型也可以寫為O于是殘差Y X對于普通最小二乘回歸模型,E( ) 0, Var()這里就用¥取代了 In,對比上一節的異方差線性回歸模型，這里就是用¥取得了 diag( 12, 2)。對比下面要講的一般協方差正定的廣義線性模型，這里的協方差陣就是屬于那里的一個特殊情況，不過這里整個¥只與一個參數P有關，因而是可以估計出來的。要解殘差一階自回歸線性模型，應該先采用(，再采用(，在回歸方程Yi Xii, i 1, ,n(中，從

28、原始資料作出 3的普通最小二乘估計? (XX) 1X Y(計算出殘差估計13文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持? Y? Y Xi ? Yi, i 1, ,n在關于殘差的回歸方程i i i, i 2, ,n中，利用？作回歸，得到p的估計第二步，再回到模型（，計算§的廣義最小二乘估計:? (X 1X) 1X 1Y我們知道當 里的階數較高時,W-1在計算機上往往無法計算，所以應該針對具體問題分析簡化計算。對于（，可以從數學上推導出它的逆陣為1000120001200000120001而且可以驗證，存在下三角分解,其中下三角陣.1

29、200001000P0100000100001這個P很容易在計算機上構造出來，然后作變換* *Y PY,X PX14文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持則模型(* * *Y XE(Y ) 0, Var(Y )2I這里不可觀測項£ *=P e。此時模型變得滿足普通最小二乘條件，于是得到它的OLS估計? (X X ) 1X Y1*力 *力(Y X ?) (Y X ?) n p注意Y與X*的第一項分別是412Y與12Xi。這就使自由度沒有損失，參數估計保持其有效性。這里從矩陣分解的角度講Yi與Xi的來歷顯得合理一些。可能會問，既然

30、有了 ( ？，何必還要(？,Xi,OLS擬合效果已經很好。但是它的方差較大，對未來資料擬合精度將較差。我們作回歸的主要目的難道不是為了對未來的預測嗎？關于殘差一階自回歸線性模型的檢驗方法較多，比較重要的是Durbin-Watson檢驗，但是這個檢驗需要單獨的統計表，使用并不方便。我們這里介紹的是殘差一階自回歸的漸近檢驗。在模型(，主要檢驗一階自回歸是否成立，即原假設與備擇假設為在合適的假定下，可以導出？的漸近分布為正態，E(?), Var(?) (12)/n,?N( ,(12)/n)于是可以構造統計量.(12)/nN (0,1)當原假設Ho成立時Z , n? N(0,1)若取顯著性水平為 5%

31、,則雙邊假設檢驗有拒絕域 |J%?| 1.96。一般情況下拒絕域為| n?| U /2這個漸近檢驗一則需要樣本容量較大，二則不是最優勢檢驗，但是它無需重新構造統計 數表，比較方便實用。算例3.3.1殘差一階自回歸線性模型下表是20組原始資料，欲建立殘差一階自回歸線性模型15文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持表中資料的經濟意義可以解釋為 Cobb-Douglas生產函數，Yi是產出，Xi是常數1,未列出,X2是勞動力，X3是資本，數值取了對數。表 3.3.1序號YXX3序號YX2X3142.083714.5316.741152.466

32、820.7719.33241.485715.3016.811250.675721.1717.04339.055715.9219.501351.642821.3416.74445.089217.4122.121456.188322.9119.81551.669818.3722.341566.216422.9631.92651.183818.8317.471663.227323.6926.31754.777718.8420.241768.964824.8225.93860.334319.7120.371864.259625.5421.96949.755220.0112.711963.754125.

33、6324.051055.459220.2622.982069.683628.7325.66使用本書軟件專門為誤差一階自回歸線性模型設計的程序，可以進行模型的計算與檢驗。 首先，程序算出原始資料的回歸系數，原始模型為然后程序對殘差£ i作一階自回歸，算出？ 0.5285。取漸近檢驗，統計量為而三個顯著性水平下的臨界值為2.326, 1,645, 1.282,故認為殘差一階自回歸非常顯著。在建立廣義最小二乘模型時，按 （，變換后的資料顯示在程序運行之中。對于變化后的資料，模型 為這個回歸萬程對資料 Y , X肯定是合適的，見擬合效果圖（圖殘差一階自回歸線性模型計算程序，例3.3.1數據文

34、件第一列為Y,以后各列為X例331.D數據文件中，n=20, M=2要顯示原始資料嗎？ 0=不顯示，1=顯示（0）打印原始資料的普通最小二乘回歸系數3.84191.8110.6343殘差一階自回歸系數p :.5285作殘差一階自回歸系數顯著性的漸近檢驗統計量：2.3634 臨界值（0.01）: 2,326 （0.05）: 1,645（0.10）: 1.282要顯示變換后的資料嗎 ？ 0=不顯示，1=顯示（1）35.7273.849012.335314.211519.2460.47157.62147.963516文檔收集于互聯網，如有不妥請聯系刪除文檔來源為:從網絡收集整理.word版本可編輯.

35、歡迎下載支持17.1320.47157.834510.616524.4497.47158.996911.815027.8418.47159.169510.650423.8783.47159.12215.664127.7289.47158.889011.007831.3863.47159.75389.673917.8708.47159.59401.945229.1654.47159.685516.263223.1587.471510.06337.185922.9489.471510.19386.824824.8626.471510.15247.735028.8970.471511.632610.

36、963536.5220.471510.852921.451128.2349.471511.55659.441535.5515.471512.300712.026127.8141.471512.42358.257029.7953.471512.133112.445035.9919.471515.185512.9505對變換后的模型資料作回歸，不取常數項回歸系數 A 4.04511.6746.7575現在作線性回歸顯著性檢驗，計算t,F,R統計量請輸入顯著性水平a,通常取a=0.01, 0.05, 0.10, a=?(0.05)線性回歸分析計算結果樣本總數20自變量個數3回歸方程 Y = b1*X

37、1 + .+b3*X3Y= 4.0451 X1 +1.6746 X2 +.7575 X3回歸系數 b1, b2, ., b34.04511.6746.7575殘差平方和：121.94 回歸平方和：488.92誤差方差的估計：6.0970 標準差=2.4692線性回歸顯著性檢驗顯著性水平：.050回歸方程整體顯著性F檢驗，H0:b0=b1=.=b3=0F 統計量：22.7207 F 臨界值 F(3, 17)3.197全相關系數 R :.901217文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持回歸系數逐一顯著性t檢驗,H0:bi=0, i=1,.

38、,3t 臨界值 t( 17)1.7396回歸系數b1-b 3的t值：.3348 2.8728 2.4046要作回歸預測嗎？鍵入0=不預測，1=要預測 (0)要打印擬合數據嗎？ 0=不打印，1=打印(0)計算結束。我們的目的是要對原始資料建立回歸方程，理論分析指出，還是這個方程對原始資料不僅擬合效果好， 而且消除了自相關影響。 圖，前者的主要優點在于對未來的預測。二、自回歸條件異方差(ARCH)模型研究者發現，許多經濟類時間序列資料，諸如股票價格，通貨膨脹率，外匯匯率等，經常 呈現從一個時間段到另一個時間段的變化規律。在某些時間段，觀測誤差相對小一些， 在另一時間段觀測誤差相對大一些，然后再到一

39、個時間段觀測誤差又小一些。這種變化可能歸咎于金融市場的多變性，對政治動亂和政府金融政策的敏感性等等。這種情況提示我們考慮觀測誤差的方差呈現某種自相關。如果假定回歸模型的隨機誤差項ei的方差與前一次觀測的誤差項的平方有關：Var( i)則可以建立自 回歸條件異方差模型(AutoRegressive Conditional Heteroscedasticity (ARCH)Model):Y Xi i2(i - N(0,( 01 i 1)這個模型中e i的方差僅與前一項誤差項平方有關，故稱ARCH(1),并且這里假定了誤差服從正態。下面我們抓住回歸模型誤差方差是以前的誤差平方的線性函數這一點不變，而

40、從三個方面放寬限制，擴展 ARCH模型。(1)模型的線性部分 XB可以是解釋變量，也可以是觀測量Yi的以前數值，如Yi01Yi 12丫 1kYi ki(2) £ i不必服從正態，可以服從別的分布，也可以只知道它的一階矩、二階矩。(3) Var( £ i)不必恰女?是 21的線性函數，而可以是連續若干項誤差平方的線性函數，即Var(i)222i 01 i 12 i 2此時的模型稱為ARCH( p)o18文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持般地，我們假定基本觀測資料Yi, Xi (Xii, xi 2, xik ) ,

41、i = 1 ,，n 滿足線性關系Yi Xii其中誤差項e i的平方滿足p階自回歸AR(p)過程： 2222i 01 i 12 i 2p i p i這里的隨機項 i是一個白噪聲過程：22E( i) 0, E( i2)2, E( i j) 0, i j則顯然由條件(，它是由Engle(1982)弓I進的。在解算模型之前，我們先來研究一下模型的性質，尤其是模型的方差特性。由于2非負，從(o i o,i 1,2,(為了保證 2是方差平穩的，我們需要進一步假定方程11Z2Z2pZp 0(的根在單位圓之外。如果系數aj都是非負的，這等價于要求12p 1(當這些假設滿足時，£ i的無條件方差由下式

42、決定2 E( i2)0/(112p)(22細心的讀者會注意到，(E( i),而(E( i),這究竟是怎么回事？這正是模型名稱自回歸條件異方差所反映的事實。(i1, i22, ，: p, i2的條件期望:E( ：| 21, , ：p)01 i212 pip這個條件方差是異方差,在變化，用來描述經濟資料的振幅在按時間段作自回歸變化。而(2,它當然是一個常數。下面我們研究模型ARCH(p)的解法。為了印象深刻，我們將模型重寫一次:19文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持Yi2XiE(i)0,E(1i2)2p i p2, E( ij) 0,

43、i j我們可能會聯想一階自回歸線性模型(,它們似乎相似。但是我們仔細研究發現那里的解法并不能照搬過來。是的，我們可以從原始資料出發由模型第一個式子求出型第二個式子回歸出0 , -1 ,?p, ?,可是再回到模型第一個式子呢，我們無法知道的具體形式，主要是無法知道 C0V(ei,門)，所以無法應用廣義最小二乘方法。經過統計學家的專門研究，要解算ARCH模型，還需附加一些條件。按附加條件不同而形成不同的解法。首先我們需要將模型中自回歸條件異方差滿足的關系式改寫一下。假定模型為YiXihi2i , E( i) 0,E( ：) 12p i p則可以從這組條件推證出(,即推證出自回歸條件異方差主要關系式

44、。這說明這組條件比1,正態分布假設下的最大似然估計在ARCH(p)模型(，我們有n個觀測。為了敘述方便，我們總是取前p個觀測去計算異方差條件，將這p個數倒記為i=-p+1,-p+2,0。對于i=1,n,以Yi (Yi”， ，丫1,丫。， ,Yp 1；Xi,Xi 1,X1,X0, ,X p1)記到i為止的樣本集合，由于i從1標起，這個集合里至少有假設vii. i. d.于N (0, 1),并且vi與Xi與Yi-i都獨立，則p個觀測。Yi的條件分布為這是一個期望為hi 0(Zi(,1f(Y |Xi,Yi 1) =exp2 hXi ,方差為hi的正態分布。由于1(Yi1 Xi 1 )22 (Yi 2

45、 Xi 2)(Y Xi2hiiYi)2)2p(Yi故hi的計算公式可寫為m Xi m )2這里0， 1， 2 ，Zi()(1,(Y1 Xi 12)2,(Y2 Xi 12)2,(Yip Xi0 )2)記參數集合20文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持(,)則依賴于前p個觀測的條件密度對數似然函數為nL( ) log f (Y |X,Y；)i 1n1 n1 n2-log(2 ) - log hi - (Y Xi )小22 i i2 i iYi,對于給定的樣本觀測值 Y ,Xj代入(，i=1，,n。注意此時一共享了 n+m個樣本觀測。將Xi

46、, hi代入(，形成一個含有參數 0的對數似然函數L (0),我們的任務是使它極大化，從而求 出0的估計，即L( ?) max L()(這還是可以用由 Sargent改進的Powell算法完成。2.不相關假設下的廣義矩估計(GMM)我們也可以假設回歸方程中的殘差與解釋變量無關，即E(Y Xi )Xi)0(同時假設在自回歸條件異方差關系式中的殘差項與滯后的均方殘差也無關，即一一 2一E( iZi) E( ihi)Zi) 0(在這些假設下，Bates W White (1988)以及 Raymond與 Butler(1991)等人使用廣義矩估計(Generalized Method of Mome

47、nts GMM)作出 ARCH 模型的參數估計。),，YZ(還是設1 n一(Yig( i，Yi) nin11(Yi)意義如前，記Xi )Xi( 2_Xi )(Zi( ) Zi()則這里的GMM方法是要極小化L( ) g( i；Y) Si1g( ；Y)(即L( ?) min L()(函數L()中的S? n_ ccc一(Xi X)2 E(X )2?2(是參數估計的標準差矩陣。21文檔收集于互聯網，如有不妥請聯系刪除文檔來源為：從網絡收集整理,word版本可編輯.歡迎下載支持.關于廣義矩估計方法 GMM我們放在下一節專門介紹。ARCH模型的解算辦法還有一些，不再細述。還要談及的一個問題是ARCH模型

48、的檢驗。很幸運的是，這個問題不困難。Engle(1982)用拉格朗日乘子法則導出了 ARCH模型的檢驗辦法。首先在資料基本關系式Y Xi中使用普通最小二乘算出？從而得到樣本殘差ei的估計? Y Xi ?,ip 1, p 2, ,0,1, ,n(使用這n+p個資料，作p階自回歸：?2o Iip72p i,i 1, ,n(在i N(0, 1 n i 1當然我們這里把原點矩與中心矩混在一起，雖不合傳統，但細想又未嘗不可。22文檔收集于互聯網，如有不妥請聯系刪除.),i 1, ,n(的假定下，自回歸式(R2 2 ,即據此可以作出關于原始資料回歸的殘差£i的方差是否隨時間段改變的假設檢驗。如果

49、把ARCH(p)模型中關于誤差的條件方差的線性自回歸關系式放寬為無窮段，即 則得到所謂廣義自回歸條件異方差(Generalized AutoRegressive Conditional HeteroscedasticityGARCH)模型。進一步放寬，如同(假設hi不僅與2有線性關系，還與自身的滯后值有線性關系，即 p則稱模型為GARCH(p, q)模型。顯然這樣復雜的模型理論意義大于實際意義，這里就不詳細介紹了。第四節 廣義矩估計方法(GMM)一、廣義矩估計的概念參數的矩估計就是用樣本矩去估計總體矩，經常使用的是用樣本一階矩去估計總體一階矩(均值)，用樣本二階中心矩去估計總體二階中心矩(方差

50、)。如對正態總體，設 XN(jb2),則EX= , E(X- ) )2=(t2,于是對i. i. d.樣本X1,，Xn,有估計方程組1 n-X - Xi E(X) ?(n i 1文檔來源為：從網絡收集整理.word版本可編輯.歡迎下載支持. 本書作者導出過一種齒輪壽命分布，其密度函數為f (t)-n=a一rexp2 (t)t其中參數為a、b, 處。由于可以算出(x)為N(0, 1)的分布函數。在作參數估計時，使用負指數矩估計還恰到好所以有估計方程組:EtEt 2b2 1b22 n i 1 ti這樣的負指數矩估計不僅便于計算,既然矩估計的指數可正可負，expa “ 2(b)expa %2(b)1 exp a、2(b)b221b22-b22expa a、2(b)1b22而且恰好等于參數的最大似然估計。可大可小，自然就要問，選哪個為好？選多少個為好？前面兩個例子都是兩個參數，我們選了兩個樣本矩。為什么不選更多一些呢數多于待估參數個數，那么該怎樣確定參數估計值呢？?如果選的矩估計方程個廣義矩估計方法(GMM)應運而生。雖然它可以追溯更早一些，但這里介紹的比較成熟的 方法是由Hansen(1982)引進的。方程比未