1、金融時間序列模型第四章：平穩線性ARMA模型基本概念隨機過程stochastic process 設T是某個集合，俗稱足標集，對任意固定tT，Yt是隨機變量， tT的全體 Yt ；tT 稱為T上的隨機函數。記為 Yt 對每個固定的t，Yt是隨機變量。通常T取為：1） T=-, , T=0, 2) T=-2,-1,0,1,2, T=1,2,3,基本概念平穩隨機過程 （weakly stationary, covariance stationary ,second order stationary）如果隨機序列二階矩有界，并且滿足以下條件（1）對任意整數t，E(Yt)= ，為常數；（2）對任意整數

2、t和s，自協方差函數ts僅與t -s有關，同個別時刻t和s無關。即ts=t-s=k 平穩時間序列幾個重要的平穩過程和模型白噪聲過程MA過程AR過程ARMA過程平穩過程的參數自協方差和自相關函數偏自相關函數白噪聲過程white noise process 隨機過程滿足1）E(t)=0 ， 對所有t2）E(t2)=2 對所有t3）E(ts)=0, 對任意ts，或Cov(t, s)=0弱白噪聲隨機過程（Weakly white noise process），簡稱白噪聲。記為tWN(0, 2) 白噪聲過程4）不同時刻隨機變量是相互獨立的隨機變量，并且同分布稱為獨立白噪聲，記為tI.I.D(0, 2)如

3、果再增加一個條件5）服從正態分布該過程為高斯白噪聲（Gaussian white noise process）。 滑動平均模型Moving Average Model 1-階滑動平均模型 其中1MA模型和為參數或系數。表達式1，是1階滑動平均模型，Yt是1-階滑動平均過程。用MA（1）表示例如Yt=0.1+t0.3 t1MA(1)另一種表達方式本質是一個只包括常數項的回歸模型，但殘差存在自相關。容易知道MA(1)存在一階自相關。q-階滑動平均模型定義其中t是白噪聲過程2q-階滑動平均過程稱和i, i=1,2,q為參數或系數。表達式2，是q階滑動平均模型，Yt是q -階滑動平均過程。用MA（q）

4、表示。注：q0 q-階滑動平均模型和過程下面是幾個MA模型Yt=0.1+t0.2 t1 0.1 t2Yt=0.1+t0.3 t1 0.21 t2 0.1 t3Yt=0.1+t0.3 t4自回歸模型Autoregressive Model t=c+1t-1+2t-2+pt-p+t 其中 t 是白噪聲過程 p 0表達式3是P-階自回歸模型t 為p-階自回歸過程 ,表示為AR(p)C, 1, p是未知參數或系數。3自回歸滑動平均混合模型Mixed Autoregressive Moving Average Model t=c+1t-1 +2t-2+pt-p + t + 1t -1+ qt q其中 t

5、 是白噪聲過程 p 0, q 0表達式4是P-階自回歸q階滑動平均混合模型t 為p-階自回歸q階滑動平均混合過程 ,表示為ARMA(p,q)C, 1, p， 1， q是未知參數或系數。4三類模型參數特征MA(1)參數特點均值函數：E（t）=自協方差函數： 0= (1+2) 2 1 = 2 k= 0, k1自相關函數：1=/(1+2)，k=0, k1MA(q)的參數特點E（t）=0=(1+12+ q 2) 2k=0, k q ，k=0, k q MA過程例下面是一個MA(2)模型,計算它的自相關函數，并畫圖t=t +0.2t10.1t21（121）/（11222）（0.2+0.2*0.1）/(1

6、+0.12+0.22)=0.22（2）/（11222）0.1/(1+0.12+0.22)=0.095MA過程ACF圖基本結論MA(q)過程的自相關函數q步截尾自回歸過程的參數特點均值函數E(t)=c/(1-1-2 +-p)自協方差函數0=11+22+pp +2j =1j-1+ 2j-2+pj-p j=1,2,3,自相關函數j =1j-1+ 2j-2+pj-p j=1,2,3,AR(1)過程的參數AR(1)參數t=0.1+0.5t-1 +t t=0.1-0.5t-1 +t =0.1/(1-0.5)=0.2 = 0.1/(1+0.5)j=0.5j j =(-0.5)j ARMA過程參數=c/(1-

7、1-2 +-p)j =1j-1+ 2j-2+pj-p jqj =1j-1+ 2j-2+pj-p jq偏自相關函數一般的，偏相關系數如下定義：Yt與Yt-k的偏相關系數是去掉Yt-1，Yt-2，。Yt-k+1的線性影響后簡單相關系數。用公式表示如下：*k=Corr(yt-E*(yt| yt-1，yt-2，。yt-k+1), yt-k) 三種隨機過程偏自相關函數的特點根據定義總有*1=1三類過程的偏自相關函數和自相關函數 MA（q） AR（p） ARMA（p，q）自相關函數 q步截尾 拖尾 拖尾偏自相關函數 拖尾 p步截尾 拖尾 滯后算子平穩條件，可逆條件，模型間變換滯后算子滯后算子(Lag op

8、erators)或延遲算子（Backshift）滯后算子，用L表示。有的書上稱為延遲算子，用B表示 LYt=Yt-1 滯后算子(1)L(LYt)=L(Yt-1)= Yt-2,記為L2Yt= Yt-2,一般的Lk Yt= Yt-k(2)與乘法可交換L(a Yt)=a(LYt)(3)加法可分配L(Yt +Xt)= LYt + L Xt(4)對常數列的運算等于他自身Lc=c(5)1Yt=Yt(6) (1-L)-1=1+ L+ 2L2+ kLk 當|p那么估計的偏相關系數近似服從正態分布N（0，1/T）所以近似5%顯著水平下，如果-2/T1/2 *k p成立 定階1根據樣本自相關函數和樣本偏相關函數定

9、階一般要求樣本長度大于50,才能有一定的精確程度。如果某個j之后，所有的樣本自相關系數j在95置信區間內，則自相關函數截尾。適合建立MA模型；如果某個j后，所有樣本偏自相關系數*j在95置信區間內，則偏自相關函數截尾。適合建立AR模型；否則都拖尾。適合建立ARMA模型。AIC和 BIC準則評價模型的優劣準則AIC和BIC準則對自由度進行調整k是模型中未知參數的個數,et是估計出的誤差 Akaikes information criterion赤池Schwartz Bayesian information criterion(SBC,SC,BIC)施瓦茲 定階： AIC準則和BIC準則不同的書對

10、AIC和BIC使用不同的變形。經常使用的有兩種 AIC（p，q）=ln( )+2(p+q)/TBIC（p，q）=ln( )+(p+q)ln(T)/TT樣本長度，如果有常數項p+q 被p+q+1代替，ln表示自然對數。在ARMA模型中需要選擇p和q，所以用p+q代替k。 是對噪聲項方差的估計定階： AIC準則和BIC準則AIC（p，q）=2lnL/T+2(p+q)/TBIC（p，q）=-2lnL/T+(p+q)ln(T)/TLnL是模型的對數似然函數值Q是與參數無關的量。因為我們只關心使得AIC或BIC最小的值，所以忽略Q.帶入對數似然函數表達式中，可以發現與前面的AIC和BIC的表達是一致的。

11、 AIC和BIC判斷步驟（1）給定滯后長度的上限P和Q，一般取為T/10，ln（T）， ,或根據樣本ACF和樣本PACF判斷。（2）假設樣本區間1,T,把樣本區間修改到p+1,T。（3）對任意一對滯后長度p=0，1，P，q=0，1，Q，分別估計模型ARMA（p，q）（4）帶入上面的公式，計算出AIC(p，q)和BIC(p，q)（5）最小值對應的p，q值作為ARMA模型的階數。用AIC和BIC準則確定階數AIC準則-MA(1) q 0 1 2 3P 0 -7.415 -7.455 -7.426 -7.373 1 -7.39 -7.395 -7.422 -7.272 2 -7.433 -7.383

12、 -7.174 -7.221 用AIC和BIC準則確定階數BIC-白噪聲 q 0 1 2 3P 0 -7.415 -7.411 -7.338 -7.239 1 -7.346 -7.251 -6.998 -7.001 2 -7.345 -7.251 -6.998 -7.001 AIC和BIC準則選擇滯后長度存在以下缺陷：1）選擇不同的準則具有主觀任意性。不同準則得出矛盾的結論。 BIC準則的大樣本性質比AIC好，但是有限樣本情況下很難比較AIC和BIC的優劣。在實際確定階數時，不是一定選擇AIC,BIC最小的，還有考慮模型的簡潔和殘差是否是白噪聲。 2）選擇方法是確定一個滯后長度的上限P和Q，如

13、果實際的滯后長度大于P或Q，那我們就得不到正確的滯后長度。極大似然估計:以AR(1)為例t=c+t-1 +t 假設 i.i.d.N(0, 2)估計: =( c, , 2) 已知: y1,y2,yTE(1)=c/(1-)E(1-)2=2/(1-2) 極大似然估計當1的觀測已知時，2的條件分布2=c+1 +2 （2|1= y1） N(c+y1, 2) 極大似然估計Y1,Y2的聯合分布密度函數，是條件密度和邊際密度相乘f2，Y1 (y2，y1; )= f2|Y1 (y2|y1; ) f1 (y1; ) 類似的，已知y1,y2，3的條件分布 極大似然估計三者的聯合分布f3，2，Y1 (y3，y2，y1

14、; )= f3|Y2，Y1 (y3|y2，y1; ) f2|Y1 (y2|y1; ) f1 (y1; ) 一般給定y1,y2,yt-1，t的條件分布只和yt-1有關 極大似然估計ft,Yt-1，,Y1 (yt, yt-1，,y1; )= f1 (y1; ) ft|Yt-1(yt|yt-1; ) 極大似然估計估計：滿足下面的條件的解求解未知參數的方程是非線性的，如果只關心（2，T）的條件聯合分布，得到條件極大似然函數。極大似然估計假設觀測值是y0, y-1, y-P+1, y1, yT假設01=q+1=0以初始值y0, y-1, y-P+1和0，1，q+1為條件，對t1，2，T，對數條件似然函數

15、是 使用對數條件似然函數對每個未知參數求一階導數，令其等于0，這時方程組是線性方程組，易于求解。模型的檢驗檢驗殘差是否是白噪聲過程1）畫出殘差的折線圖2）畫出殘差的ACF,PACF3)計算統計量QBox-Pierce Q-檢驗Ljung and Box 檢驗Q檢驗1）m主觀給定，一般在15到30之間，可令m=T1/22）H0：t是白噪聲過程3)當零假設成立時，統計量Q漸進(asymptotically distributed)服從2（m-p-q），如果模型中包括常數項，那么Q漸進服從2（m-1-p-q）4）Q檢驗的缺陷是，經常不能拒絕零假設。把不是白噪聲時，也誤認為是白噪聲。 檢驗Q檢驗圖示真

16、實臨界值計算值卡方分布臨界檢驗練習例m=6，模型中有常數項，考慮下面的幾個模型，那個模型是合格的模型？給出其它幾個模型Q檢驗統計量的自由度。(p+q) Q 自由度 P-value(1,0) 15.92 6-1-0-1 0.019(2,0) 11.82 0.249(0,1) 4.12 0.139(0,2) 6.94 0.21(1,1) 7.94 0.047模型選擇一個好模型滿足的條件每個解釋變量都顯著不等于0.殘差是白噪聲過程具有最小的AIC或BIC值練習：從下面的幾個模型中選擇一個最優模型 AR(1) AR(2) AR(3) ARMA(1,1) MA(2) 1 0.17 0.21 0.3 0.

17、19 ( 0.0000) (0.0004) (0.002) (0.0024) 2 0.06 0.04 (0.0005) (0.003) 3 0.0005 (0.44) 1 0.05 0.48 (0.0007) (0.0034) 2 0.06 (0.009) AIC 607.3 592.5 615 598.4 609.5 BIC 609.9 594.3 607 596.6 612.6Q(8) P-值 0.0000 0.567 0.66 0.6958 0.003Q(16) P-值 0.000 0.4241 0.78 0.8927 0.005預測基本概念事前預測，事后預測，模擬預測假設收集到N個數據

18、，使用1到T來估計模型.對N時刻以后預測事前預測；對T到N預測事后預測或樣本外預測；對1到T之間的預測是模擬，或擬和。1TN預測基本概念h步預測：預測變量YT+h的取值，h0，稱為h-步預測假設時刻T之前的所有數值YT, YT-1,Y1預測估計量：用 表示基于T時刻之前的觀測對YT+h的預測預測誤差估計量：預測均方誤差 ，記為MSE( )預測最優預測：選擇合適的函數形式，使得預測均方誤差最小的預測是最優預測。可以證明求YT+h基于YT, YT-1,，Y1，的條件期望是使均方誤差最小的預測，條件期望表示為：E（YT+h | YT, YT-1,，Y1）=預測值的計算 t=c+1t-1 +2t-2+

19、pt-p + 不可能知道T時刻前的所有觀測，觀測值是YT, YT-1,Y1，所以是近似預測。假設參數已知，實際只能用估計的參數代替真實參數。預測是遞推進行預測值的計算1步預測2步預測預測值的計算一般預測公式預測值的計算AR（1）模型的h步預測 t=c+t-1 +t預測值的計算MA(q)模型的h步預測 預測值的計算計算殘差的估計值，假設0, 1,-q+1=0 根據下面的公式遞推計算：預測值的計算ARMA（1，1）模型的預測t=c+ 1Y t-1+t+ 1t-1 預測值的計算殘差的計算與MA模型類似，以ARMA(1,1)為例。1 =1-c- 1Y0- 10假設0 =0，0已知。所以實際用的數據個數為T+1個；如果0未知，用樣本均值代替。2 =2-c- 1Y1- 11T = T -c- 1Y T -1- 1 T -1ARIMA模型預測ARIMA(0,1,1)預測置信區間ARMA模型表示成MA（）模型t-=t +1t