1、第三章平穩時間序列分析本章構造方法性工具 ARMA模型 平穩序列建模序列預測 3.1 方法性工具 差分運算延遲算子線性差分方程差分運算一階差分 階差分 步差分延遲算子延遲算子類似于一個時間指針，當前序列值乘以一個延遲算子，就相當于把當前序列值的時間向過去撥了一個時辰 記B為延遲算子，有 延遲算子的性質 用延遲算子表示差分運算 階差分 步差分線性差分方程 線性差分方程齊次線性差分方程齊次線性差分方程的解特征方程特征方程的根稱為特征根，記作齊次線性差分方程的通解不相等實數根場所有相等實根場所復根場所齊次線性差分方程的解我們用迭代法求解差分方程的過程來提示前面給出的齊次線性差分方程通解的本質。思索一

2、階差分方程相應的經過特征方程求解為可見，兩種方法求得的解的方式是一致的。齊次線性差分方程的解思索二階差分方程齊次線性差分方程的解齊次線性差分方程的解非齊次線性差分方程的解 非齊次線性差分方程的特解使非齊次線性差分方程成立的恣意一個解非齊次線性差分方程的通解齊次線性差分方程的通解和非齊次線性差分方程的特解之和3.2 ARMA模型的性質 AR模型Autoregressive Model MA模型Moving Average Model ARMA模型Autoregressive Moving Average modelAR模型的定義具有如下構造的模型稱為 階自回歸模型，簡記為 *留意最后一項條件是s

3、t特別當 時，稱為中心化 模型 AR(P)序列中心化變換 稱 為 的中心化序列 ，令自回歸系數多項式引進延遲算子，中心化 模型又可以簡記為 自回歸系數多項式 * 留意這里銜接各項的是減號AR模型平穩性判別 判別緣由要擬合一個平穩序列，所采用的擬合模型也應該是平穩的。AR模型是常用的平穩序列的擬合模型之一，但并非一切的AR模型都是平穩的 判別方法特征根判別法平穩域判別法AR模型平穩性判別方法特征根判別AR(p)模型平穩的充要條件是它的p個特征根都在單位圓內根據特征根和自回歸系數多項式的根成倒數的性質，等價判別條件是該模型的自回歸系數多項式的根都在單位圓外平穩域判別 平穩域AR模型平穩性特征根判別

4、AR模型平穩性特征根判別AR模型平穩性特征根判別書中46頁和47頁第一項有誤AR模型平穩性特征根判別AR模型平穩性特征根判別AR模型平穩性特征根判別AR模型平穩性特征根判別AR(1)模型平穩條件AR(2)模型平穩條件AR(2)模型平穩條件AR(2)模型平穩條件特征根平穩域例3.1 調查如下四個模型的平穩性例3.1平穩序列時序圖例3.1非平穩序列時序圖例3.1平穩性判別模型特征根判別平穩域判別結論(1)平穩(2)非平穩(3)平穩(4)非平穩例3.1平穩性判別以(4)為例例3.1平穩性判別以(4)為例平穩AR模型的統計性質均值方差協方差自相關系數偏自相關系數均值 假設AR(p)模型滿足平穩性條件，

5、那么有根據平穩序列均值為常數，且 為白噪聲序列，有推導出Green函數定義平穩AR模型的傳送方式Green函數遞推公式原理方法：待定系數法遞推公式Green函數遞推公式推導待定系數法。首先容易得出G0=1Green函數遞推公式推導方差平穩AR模型的傳送方式兩邊求方差得平穩AR模型條件下，Gj呈負指數下降，因此 。從而闡明平穩序列的方差有界，等于常數例3.2 平穩AR(1)模型的方差平穩AR(1)模型的傳送方式為Green函數為平穩AR(1)模型的方差自協方差函數在平穩AR(p)模型兩邊同乘 ，再求期望根據得自協方差函數的遞推公式例3.3 平穩AR(1)模型的自協方差遞推公式平穩AR(1)模型的

6、方差為自協方差函數的遞推公式為自相關系數自相關系數的定義平穩AR(p)模型的自相關系數遞推公式，也稱尤爾沃克(Yule-Walker)方程常用AR模型自相關系數遞推公式AR(1)模型AR(2)模型例3.4 平穩AR(2)模型的自協方差例3.4 平穩AR(2)模型的自協方差AR模型自相關系數的性質拖尾性呈負指數衰減例3.5 調查如下AR模型的自相關圖例3.5 自相關系數按負指數單調收斂到零例3.5 自相關系數呈正負相間地衰減例3.5 自相關系數呈現出“偽周期性衰減例3.5 自相關系數不規那么衰減偏自相關系數定義3.3 對于平穩AR(p)序列xt，所謂滯后k偏自相關系數就是指在給定中間k-1個隨機

7、變量 的條件下，或者說，在剔除了中間k-1個隨機變量的干擾之后，xt-k對xt影響的相關度量。用數學言語描畫就是(1)偏自相關系數的計算留意：這里是“k階自回歸模型， k+1階或k+n階的模型都不可以。k階自回歸模型只能用于計算“滯后k偏自相關系數，不能用于計算滯后k-1或k-n偏執相關系數。(2)經過自相關系數計算偏自相關系數(3)平穩AR(p)模型的偏自相關系數p階截尾(3)平穩AR(p)模型的偏自相關系數p階截尾例3.5續 調查如下AR模型的偏自相關圖例3.5 實際偏自相關系數樣本偏自相關圖例3.5 實際偏自相關系數樣本偏自相關圖例3.5 實際偏自相關系數樣本偏自相關圖例3.5 實際偏自

8、相關系數樣本偏自相關系數圖MA模型的定義具有如下構造的模型稱為 階挪動平均模型，簡記為特別當 時，稱為中心化 模型挪動平均系數多項式引進延遲算子，中心化 模型又可以簡記為 階挪動平均系數多項式 * 留意這里銜接各項的是減號MA模型的統計性質常數均值常數方差MA模型的統計性質自協方差函數q階截尾當q時，MA(q)一定平穩自相關系數q階截尾MA模型的統計性質MA模型的統計性質MA模型的統計性質MA(2)模型的自協方差函數：常用MA模型的自相關系數MA(1)模型MA(2)模型MA模型的統計性質偏自相關系數拖尾(證明在后面講完MA模型逆函數時再講)例3.6:調查如下MA模型的相關性質MA模型的自相關系

9、數截尾MA模型的自相關系數截尾MA模型的偏自相關系數拖尾MA模型的偏自相關系數拖尾MA模型的可逆性MA模型自相關系數的不獨一性例3.6中不同的MA模型具有完全一樣的自相關系數和偏自相關系數可逆的定義可逆MA模型定義假設一個MA模型可以表示稱為收斂的AR模型方式，那么該MA模型稱為可逆MA模型可逆概念的重要性一個自相關系數列獨一對應一個可逆MA模型。可逆MA(1)模型MA模型的可逆條件推導過程與AR模型的平穩穩性條件類似 MA模型的可逆條件MA(q)模型的可逆條件是：MA(q)模型的特征根都在單位圓內等價條件是挪動平均系數多項式的根都在單位圓外逆函數的遞推公式原理方法：待定系數法遞推公式逆函數的

10、表達式(可以本人看)例3.6續:調查如下MA模型的可逆性(1)(2) 逆函數逆轉方式(3)(4) 逆函數逆轉方式 逆函數遞推過程留意：這里12的符號與模型里給出的符號相反MA模型偏自相關系數拖尾的證明 ARMA模型的定義具有如下構造的模型稱為自回歸挪動平均模型，簡記為特別當 時，稱為中心化 模型系數多項式引進延遲算子，中心化 模型又可以簡記為 階自回歸系數多項式 階挪動平均系數多項式平穩條件與可逆條件ARMA(p,q)模型的平穩條件P階自回歸系數多項式 的根都在單位圓外即ARMA(p,q)模型的平穩性完全由其自回歸部分的平穩性決議ARMA(p,q)模型的可逆條件q階挪動平均系數多項式 的根都在

11、單位圓外即ARMA(p,q)模型的可逆性完全由其挪動平均部分的可逆性決議傳送方式與逆轉方式傳送方式逆轉方式ARMA(p,q)模型的統計性質均值協方差自相關系數ARMA模型的相關性由于ARMA模型可以轉化為無窮階挪動平均模型，因此其自相關系數拖尾。由于ARMA模型可以轉化為無窮階自回歸模型，因此其偏自相關系數拖尾。 例3.7:調查ARMA模型的相關性擬合模型ARMA(1,1): 并直觀地調查該模型自相關系數和偏自相關系數的性質。 自相關系數和偏自相關系數拖尾性樣本自相關圖樣本偏自相關圖ARMA模型相關性特征模型自相關系數偏自相關系數AR(P)拖尾P階截尾MA(q)q階截尾拖尾ARMA(p,q)拖

12、尾拖尾3.3平穩序列建模 建模步驟模型識別參數估計模型檢驗模型優化建模步驟平穩非白噪聲序列計算樣本相關系數模型識別參數估計模型檢驗模型優化序列預測YN計算樣本相關系數樣本自相關系數樣本偏自相關系數模型識別根本原那么選擇模型拖尾p階截AR(p)q階截尾拖尾MA(q)拖尾拖尾ARMA(p,q)模型定階的困難由于樣本的隨機性，樣本的相關系數不會呈現出實際截尾的完美情況，本應截尾的 或 仍會呈現出小值振蕩的情況。由于平穩時間序列通常都具有短期相關性，隨著延遲階數 ， 與 都會衰減至零值附近作小值動搖。 當 或 在延遲假設干階之后衰減為小值動搖時，什么情況下該看作為相關系數截尾，什么情況下該看作為相關系

13、數在延遲假設干階之后正常衰減到零值附近作拖尾動搖呢？實踐上并沒有絕對的規范，很大程度上是依托客觀閱歷。但可以參考近似分布。樣本相關系數的近似分布BarlettQuenouille模型定階閱歷方法95的置信區間模型定階的閱歷方法假設樣本(偏)自相關系數在最初的d階明顯大于兩倍規范差范圍，而后幾乎95%的自相關系數都落在2倍規范差的范圍以內，而且由非零自相關系數衰減為小值動搖的過程非常忽然。這時，通常視為(偏)自相關系數截尾。截尾階數為d。例2.5續選擇適宜的模型ARMA擬合1950年1998年北京市城鄉居民定期儲蓄比例序列。序列自相關圖序列偏自相關圖擬合模型識別自相關圖顯示延遲3階之后，自相關系

14、數全部衰減到2倍規范差范圍內動搖，這闡明序列明顯地短期相關。但序列由顯著非零的相關系數衰減為小值動搖的過程相當延續，相當緩慢，該自相關系數可視為不截尾 偏自相關圖顯示除了延遲1階的偏自相關系數顯著大于2倍規范差之外，其它的偏自相關系數都在2倍規范差范圍內作小值隨機動搖，而且由非零相關系數衰減為小值動搖的過程非常忽然，所以該偏自相關系數可視為一階截尾 所以可以思索擬合模型為AR(1)例3.8美國科羅拉多州某一加油站延續57天的OVERSHORT序列 序列自相關圖序列偏自相關圖擬合模型識別自相關圖顯示除了延遲1階的自相關系數在2倍規范差范圍之外，其它階數的自相關系數都在2倍規范差范圍內動搖。根據這

15、個特點可以判別該序列具有短期相關性，進一步確定序列平穩。同時，可以以為該序列自相關系數1階截尾偏自相關系數顯示出典型非截尾的性質。綜合該序列自相關系數和偏自相關系數的性質，為擬合模型定階為MA(1) 例3.91880-1985全球氣表平均溫度改動值差分序列 序列自相關圖序列偏自相關圖擬合模型識別自相關系數顯示出不截尾的性質偏自相關系數也顯示出不截尾的性質綜合該序列自相關系數和偏自相關系數的性質，可以嘗試運用ARMA(1,1)模型擬合該序列參數估計待估參數 個未知參數常用估計方法矩估計極大似然估計最小二乘估計矩估計原理樣本自相關系數估計總體自相關系數樣本一階均值估計總體均值，樣本方差估計總體方差

16、例3.10:求AR(2)模型系數的矩估計AR(2)模型Yule-Walker方程矩估計Yule-Walker方程的解例3.11:求MA(1)模型系數的矩估計MA(1)模型方程矩估計例3.12:求ARMA(1,1)模型系數的矩估計 例3.12:求ARMA(1,1)模型系數的矩估計方程矩估計例3.12:求ARMA(1,1)模型系數的矩估計對矩估計的評價優點估計思想簡單直觀不需求假設總體分布計算量小低階模型場所缺陷信息浪費嚴重只用到了p+q個樣本自相關系數信息，其他信息都被忽略估計精度差通常,矩估計方法被用作極大似然估計和最小二乘估計迭代計算的初始值 極大似然估計原理在極大似然準那么下，以為樣本來自

17、使該樣本出現概率最大的總體。因此未知參數的極大似然估計就是使得似然函數即結合密度函數到達最大的參數值 極大似然估計要求知總體分布函數，而現實情況是時間序列的總體分布通常是未知的。為了便于分析和計算，通常假設序列服從多元正態分布。似然函數似然方程由于 和 都不是 的顯式表達式。因此通常需求經過復雜的迭代算法才干求出未知參數的極大似然估計值 對極大似然估計的評價優點極大似然估計充分運用了每一個察看值所提供的信息，因此它的估計精度高同時還具有估計的一致性、漸近正態性和漸近有效性等許多優良的統計性質缺陷需求假定總體分布最小二乘估計原理使殘差平方和到達最小的那組參數值即為最小二乘估計值 解法：迭代法條件

18、最小二乘估計實踐中最常用的參數估計方法假設條件殘差平方和方程解法迭代法對最小二乘估計的評價優點最小二乘估計充分運用了每一個察看值所提供的信息，因此它的估計精度高條件最小二乘估計方法運用率最高缺陷例2.5續確定1950年1998年北京市城鄉居民定期儲蓄比例序列擬合模型的口徑 擬合模型：AR(1)估計方法：極大似然估計模型口徑例2.5續確定1950年1998年北京市城鄉居民定期儲蓄比例序列擬合模型的口徑 擬合模型：AR(1)估計方法：EViews對帶有AR或MA的模型通常采用非線性最小二乘法估計，非線性最小二乘估計漸進等于極大似然估計且漸進有效。模型口徑留意EViews輸出結果中ARMA模型的常數

19、項是均值而不是漂移項。例2.5續例3.8續確定美國科羅拉多州某一加油站延續57天的OVERSHORTS序列擬合模型的口徑 擬合模型：MA(1)估計方法：條件最小二乘估計模型口徑例3.8續確定美國科羅拉多州某一加油站延續57天的OVERSHORTS序列擬合模型的口徑 擬合模型：MA(1)估計方法： EViews對帶有AR或MA的模型通常采用非線性最小二乘法估計，非線性最小二乘估計漸進等于極大似然估計且漸進有效。模型口徑例3.9續確定1880-1985全球氣表平均溫度改動值差分序列擬合模型的口徑 擬合模型：ARMA(1,1)估計方法：條件最小二乘估計模型口徑例3.9續確定1880-1985全球氣表

20、平均溫度改動值差分序列擬合模型的口徑 擬合模型：ARMA(1,1)估計方法： EViews對帶有AR或MA的模型通常采用非線性最小二乘法估計，非線性最小二乘估計漸進等于極大似然估計且漸進有效。模型口徑模型檢驗平穩可逆性檢驗模型的全部系數多項式包括自回歸、挪動平均兩部分的根都必需在單位圓外 模型的顯著性檢驗整個模型對信息的提取能否充分參數的顯著性檢驗模型構造能否最簡模型的顯著性檢驗目的檢驗模型的有效性對信息的提取能否充分檢驗對象殘差序列斷定原那么一個好的擬合模型應該可以提取察看值序列中幾乎一切的樣本相關信息，即殘差序列應該為白噪聲序列 反之，假設殘差序列為非白噪聲序列，那就意味著殘差序列中還殘留

21、著相關信息未被提取，這就闡明擬合模型不夠有效模型的顯著性檢驗即為殘差序列的白噪聲檢驗假設條件原假設：殘差序列為白噪聲序列備擇假設：殘差序列為非白噪聲序列檢驗統計量LB統計量例2.5續檢驗1950年1998年北京市城鄉居民定期儲蓄比例序列擬合模型的顯著性 殘差白噪聲序列檢驗結果延遲階數LB統計量P值檢驗結論65.830.3229擬合模型顯著有效1210.280.50501811.380.8361例2.5續EViews參數顯著性檢驗目的檢驗每一個未知參數能否顯著非零。刪除不顯著參數使模型構造最精簡 假設條件檢驗統計量例2.5續檢驗1950年1998年北京市城鄉居民定期儲蓄比例序列極大似然估計模型的

22、參數能否顯著 參數檢驗結果檢驗參數t統計量P值結論均值46.120.0001顯著6.720.0001顯著例3.8續:對OVERSHORTS序列的擬合模型進展檢驗 殘差白噪聲檢驗參數顯著性檢驗檢驗參數t統計量P值結論均值3.750.0004顯著10.600.0001顯著延遲階數LB統計量P值結論63.150.6772模型顯著有效129.050.6171例3.9續:對1880-1985全球氣表平均溫度改動值差分序列擬合模型進展檢驗 殘差白噪聲檢驗參數顯著性檢驗檢驗參數t統計量P值結論16.340.0001顯著3.50.0007顯著延遲階數LB統計量P值結論65.280.2595模型顯著有效1210

23、.300.4247模型優化問題提出當一個擬合模型經過了檢驗，闡明在一定的置信程度下，該模型能有效地擬合察看值序列的動搖，但這種有效模型并不是獨一的。優化的目的選擇相對最優模型 例3.13:擬合某一化學序列序列自相關圖序列偏自相關圖擬合模型一根據自相關系數2階截尾，擬合MA(2)模型參數估計模型檢驗模型顯著有效 三參數均顯著 擬合模型二根據偏自相關系數1階截尾，擬合AR(1)模型參數估計模型檢驗模型顯著有效 兩參數均顯著 問題同一個序列可以構造兩個擬合模型，兩個模型都顯著有效，那么究竟該選擇哪個模型用于統計推斷呢？ 處理方法確定適當的比較準那么，構造適當的統計量，確定相對最優AIC準那么最小信息

24、量準那么An Information Criterion 指點思想似然函數值越大越好 未知參數的個數越少越好 AIC統計量SBC準那么AIC準那么的缺陷在樣本容量趨于無窮大時，由AIC準那么選擇的模型不收斂于真實模型，它通常比真實模型所含的未知參數個數要多 SBC統計量例3.13續用AIC準那么和SBC準那么評判例3.13中兩個擬合模型的相對優劣 結果AR(1)優于MA(2)模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.28663.4 序列預測均方誤差最小均方誤差預測預測誤差序列分解AR(p)序列的預測MA(q)序列的預測ARMA(p,q)序列的預

25、測修正預測序列預測-均方誤差時間序列分析的一個主要目的就是預測平穩時間序列預測，就是根據一切知歷史信息 對序列未來某個時期 的開展程度作出估計為了評價預測的有用性，需求給出一個損失函數來概括我們對預測偏離量的關注程度常用的是被定義為均方誤差的二次損失函數，序列預測-最小均方誤差預測序列預測-最小均方誤差預測序列預測-最小均方誤差預測序列預測-預測誤差序列分解預測誤差預測值注：由于t+1,t+k期值與t期之前的x值都不相關，因此條件期望值就等于期望值AR(p)序列的預測預測值預測方差正態假設下置信程度為1-的置信區間AR(p)序列的預測根據AR(p)模型定義例3.14知某超市月銷售額近似服從AR(2)模型單位：萬元/每月今年第一季度該超市月銷售額分別為：101，96，97.2萬元請確定該超市第二季度每月銷售額的95的置信區間 例3.14解：預測值計算四月份五月份六月份例3.14解：預測方差的計算GREEN函數方差例3.14解：置信區間公式【1.96為正態假設下0.975置信度對應的分位數】估計結果預測時期95置信區間四月份（85.36，108.88） 五月份（83.72，111.15） 六月份（81.84，