1、第三章第三章 平穩時間序列分析平穩時間序列分析本章結構本章結構方法性工具方法性工具1.ARMA模型模型2.平穩序列建模平穩序列建模3.序列預測序列預測4.3.1 方法性工具方法性工具 v本節結構 差分運算 延遲算子 線性差分方程差分運算差分運算v一階差分v 階差分 v 步差分pk1tttxxx111tptptpxxxkttt kxxx延遲算子延遲算子v延遲算子類似于一個時間指針，當前序列值乘以一個延遲算子，就相當于把當前序列值的時間向過去撥了一個時刻 v記B為延遲算子，有 122,1ttttptptxBxxB xxB xp 延遲算子的性質延遲算子的性質v v v v v ，其中 10B為任意常

2、數cxcxBcxcBttt,)()(111)(ttttyxyxBnttnxxB0(1)( 1)nniiiniBC B)!( !ininCin用延遲算子表示差分運算用延遲算子表示差分運算v 階差分 v 步差分pk0(1)( 1)pppiittpt iixBxC xtkkttkxBxx)1 ( 線性差分方程線性差分方程 v線性差分方程v齊次線性差分方程)(2211thzazazazptpttt02211ptptttzazazaz齊次線性差分方程的解齊次線性差分方程的解v 特征方程v 特征方程的根稱為特征根，記作v 齊次線性差分方程的通解 不相等實數根場合 有相等實根場合 復根場合02211pppp

3、aaap,21tpptttcccz2211tpptddtddtcctctccz111121)(1233()titittttppzr c ec eccd21非齊次線性差分方程的解非齊次線性差分方程的解 v非齊次線性差分方程的特解 使得非齊次線性差分方程成立的任意一個解v非齊次線性差分方程的通解 齊次線性差分方程的通解 和非齊次線性差分方程的特解 之和tttzzz tz )(2211thzazazazptpttt tz時序分析與線性差分方程的關系時序分析與線性差分方程的關系v常用的時間序列模型和某些模型的自協方差函數和自相關函數都可以視為線性差分方程v線性差分方程對應的特征根的性質對判斷模型的平穩

4、性有著非常重要的意義本章結構本章結構方法性工具方法性工具1.ARMA模型模型2.平穩序列建模平穩序列建模3.序列預測序列預測4.3.2 ARMA模型模型v本節結構 AR模型（Auto Regression Model） MA模型（Moving Average Model） ARMA模型（Auto Regression Moving Average model）AR模型模型的定義的定義v具有如下結構的模型稱為 階自回歸模型，簡記為v特別當 時，稱為中心化 模型tsExtsEVarExxxxtsstttptptpttt, 0, 0)(,)(0)(0222110，p)(pAR00)(pAR AR(P

5、)序列中心化變換序列中心化變換v稱 為 的中心化序列 ，令p101ttxytytx自回歸系數多項式自回歸系數多項式v引進延遲算子，中心化 模型又可以簡記為 v自回歸系數多項式)(pARttxB)(ppBBBB2211)(AR模型平穩性判別模型平穩性判別 v判別原因 AR模型是常用的平穩序列的擬合模型之一，但并非所有的AR模型都是平穩的 v判別方法 單位根判別法 平穩域判別法自回歸方程的解自回歸方程的解v 任一個中心化 模型 都可以視為一個非齊次線性差分方程，它的通解求法如下（1）求齊次線性差分方程 的一個通解 （2）求非齊次線性差分方程 的一個特解（3）求非齊次線性差分方程 的通解 ttxB)

6、()(pARttxB)(0)(txBtxtx21112111(cossin)pmdmjttttjjjjjjjjjj djxc tcr ctct pitiipiitttBkBBx111)1 ()(ttxB)(211121111(cossin)1pmpdmjtttitjjjjjjjtjj djiikxc tcctwctB tttxxx單位根檢驗單位根檢驗v自回歸序列平穩，要求v成立的條件1 ,1,2,21 , 1,2,jjjpmjm211121111limlim(cossin)01pmpdmjtttitjjjjjjjtttjj djiikxc tcctwctB 1212,(1,)pmjjccccj

7、m平穩域判別平穩域判別v對于一個 模型而言，如果沒有平穩性的要求，實際上也就意味著對參數向量沒有任何限制，它們可以取遍維歐氏空間的任意一點v如果加上了平穩性限制，參數向量就只能取維歐氏空間的一個子集，使得特征根都在單位圓內的系數集合v對于低階自回歸模型用平穩域的方法判別模型的平穩性通常更為簡便。 )(pAR12 ,p 特征根都在單位圓內AR(1)模型平穩條件模型平穩條件v 方程結構v 特征根v 平穩域1tttxxAR(2)模型的平穩條件模型的平穩條件v 方程結構v 特征根v 平穩域2211211212442212221 ,11 ，且1122ttttxxx2122112121221121212(

8、1)1(2)1 (1)(1)1(3)1 (1)(1)1 AR(2)的平穩域的平穩域11,12221，且例例3.1:考察如下四個考察如下四個模型的平穩性模型的平穩性1(1)0.8tttxx1(2)1.1tttxx 12(3)0.5ttttxxxttttxxx115 . 0)4(例例3.1平穩序列時序圖平穩序列時序圖1(1)0.8tttxx12(3)0.5ttttxxx例例3.1非平穩序列時序圖非平穩序列時序圖1(2)1.1tttxx ttttxxx115 . 0)4(例例3.1平穩性判別平穩性判別8 . 010.81 . 111.1 211i212i221210.5,0.5,1.5 231123

9、12221210.5,1.5,0.5 模型特征根判別平穩域判別結論(1)平穩(2)非平穩(3)平穩(4)非平穩平穩平穩AR模型的統計性質模型的統計性質v均值v方差v協方差v自相關系數v偏自相關系數均值均值 v 如果AR(p)模型滿足平穩性條件，則有v 根據平穩序列均值為常數，且 為白噪聲序列，有v 推導出p101)(110tptpttxxEExTtEExtt,0)(,tGreen函數定義函數定義vAR模型的傳遞形式v其中系數 稱為Green函數, 2 , 1,jGj110010()( )1ppjtittiitiijipjiitjjijtjjkxkBBBkG Green函數遞推公式函數遞推公式v

10、 原理v 方法：待定系數法ttttttBGBBGxxB)()()()(1011101(1)()1()01,0,1,2,pkjkjttkjjjjkj kttjkjjkj kkkjkjkj kkBG BGGBGGGkpkpGGj其中，例例3.2:求平穩求平穩AR(1)模型的方差模型的方差v 平穩AR(1)模型的Green函數v Green函數為v 平穩AR(1)模型的方差itiitiittBBx01011)(1, 1 , 0,1jGjj2122021021)()(jjtjjtVarGxVar方差方差v平穩AR模型的傳遞形式v兩邊求方差得函數為GreenGGxVarjjjt,)(202jtjjtGx

11、0協方差函數協方差函數v 在平穩AR(p)模型兩邊同乘 ，再求期望v 根據v 得協方差函數的遞推公式)()()()(11kttktptpkttkttxExxExxExxEktx1,k0)(kttxE1,kpkpkkk2211例例3.3:求平穩求平穩AR(1)模型的協方差模型的協方差v 遞推公式v 平穩AR(1)模型的方差為v 協方差函數的遞推公式為0111kkk212012121,11kkk 例例3.4:求平穩求平穩AR(2)模型的協方差模型的協方差v 平穩AR(2)模型的協方差函數遞推公式為21)1)(1)(1 (12211201122121220kkkk，自相關系數自相關系數v自相關系數的

12、定義v平穩AR(P)模型的自相關系數遞推公式0kk1122kkkpkp 常用常用AR模型自相關系數遞推公式模型自相關系數遞推公式vAR(1)模型vAR(2)模型0,1kkk2110, 1221121kkkkkkAR模型自相關系數的性質模型自相關系數的性質v AR模型自相關系數的表達式是一個齊次差分方程，設它的通解形式為v 呈指數衰減v 拖尾性1pkkiiic1,ipcc1,且不能恒等于零10pkikiiic111,ppkkiiiccck 不能恒等于零不會恒等于零,某個常數例例3.5:考察如下考察如下AR模型的自相關圖模型的自相關圖ttttttttttttttxxxxxxxxxx2121115

13、. 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (例例3.5：考察四個平穩：考察四個平穩AR模型的自相關圖模型的自相關圖v自相關系數按復指數單調收斂到零1(1)0.8tttxx例例3.5：考察四個平穩：考察四個平穩AR模型的自相關圖模型的自相關圖v自相關系數呈正負相間衰減1(2)0.8tttxx 例例3.5：考察四個平穩：考察四個平穩AR模型的自相關圖模型的自相關圖v自相關系數呈現出“偽周期”性12(3)0.5ttttxxx例例3.5：考察四個平穩：考察四個平穩AR模型的自相關圖模型的自相關圖v自相關系數不規則衰減12(4)0.5ttttxxx 偏自相關系數偏自相關系數v定義 對

14、于平穩 序列，所謂滯后k偏自相關系數就是指在給定中間k-1個隨機變量 的條件下，或者說，在剔除了中間k-1個隨機變量的干擾之后， 對 影響的相關度量。用數學語言描述就是121,ktttxxxktxtx2,)()(11ktktktktttxxxxxExExExxExEkttktt( )AR p偏自相關系數的計算偏自相關系數的計算11,211111122(1)11122()()() , ,tt ktt kttt kk tx xxxt kt ktttt kt kt ktt kttktktk kt kkkt ktktktE xExxExE xExExE x xxExE xxxkxkxxxxxExxx

15、其中：用過去 期的序列值對 做 階自回歸擬合：11(1)1111122(1)12,2(),)()()()() ()()()tt ktt kk kt kkkt kttt kktktk kt kkkt kttt kt kkkt kt kttt kk tx xxxt kt kxE xExxxxxE xE xExxExE xExE xExxExE xEx （kkYule-Walker方程組方程組v 在 方程等號兩邊同時乘以 ，并取期望，得v 取前k k個方程構成的方程組即Yule-Walker方程組v 解Yule-Walker方程組可以得到參數 的解，最后一個參數的解即為延遲K偏自相關系數022112

16、02112112011kkkkkkkkkkkkkkkkkktx1122,0lklklkkl kl ),(21kkkk1122(1)1tktktk kt kkkt kxxxxx Yule-Walker方程求解方程求解1111212212111112121212Yule-Walker1111111,1kkpkkkkkkkkkkkkkkDDDD方程寫成矩陣形式為：根據Cramer法則其中AR模型偏自相關系數的截尾性模型偏自相關系數的截尾性11221 122111212121,2,( )1100iiiii kkppppkkpkkkkkkikAR pDkpDkpD 記，對于模型有：，AR(1)模型偏自相

17、關系數的計算模型偏自相關系數的計算v AR(1)模型v Jule-Walker方程v 偏自相關系數的解11tttxx11101111 1102kkkkAR(2)模型偏自相關系數的計算模型偏自相關系數的計算122,11(2),20,3kkkARkk模型的偏相關系數為1111121111121Yule-Walker(2)1kAR 時，方程為對模型又有121221221122112121122222Yule-Walker(2)kAR 時，方程為對模型又有例例3.5續續:考察如下考察如下AR模型的偏自相關圖模型的偏自相關圖ttttttttttttttxxxxxxxxxx2121115 . 0)4(5

18、. 0)3(8 . 0)2(8 . 0) 1 (例例3.5續續:考察如下考察如下AR模型的偏自相關圖模型的偏自相關圖v 理論偏自相關系數v 樣本偏自相關圖1(1)0.8tttxx0.8,10,2kkkk例例3.5續續:考察如下考察如下AR模型的偏自相關圖模型的偏自相關圖v 理論偏自相關系數v 樣本偏自相關圖1(2)0.8tttxx 0.8,10,2kkkk例例3.5續續:考察如下考察如下AR模型的偏自相關圖模型的偏自相關圖v 理論偏自相關系數v 樣本偏自相關圖12(3)0.5ttttxxx2,130.5,20,3kkkkk 例例3.5續續:考察如下考察如下AR模型的偏自相關圖模型的偏自相關圖v

19、 理論偏自相關系數v 樣本偏自相關系數圖12(4)0.5ttttxxx 2,130.5,20,3kkkkk MA模型模型的定義的定義v具有如下結構的模型稱為 階自回歸模型，簡記為v特別當 時，稱為中心化 模型q)(qMA0)(qMA112220( )0( ),()0,ttttqt qqtttsxEVarEst ，移動平均系數多項式移動平均系數多項式v引進延遲算子，中心化 模型又可以簡記為 v 階移動平均系數多項式)(qMAttBx)(qqqBBBB2211)(MA模型的統計性質模型的統計性質v常數均值v常數方差）（qtqttttEEx221122212211)1 ()()(qqtqttttVa

20、rxVarMA模型的統計性質模型的統計性質v 自協方差函數q階截尾v 自相關系數q階截尾q kqkkkqiikikqk , 01 ,)(0 ,)1 (212221qkqkkqkqiikikk , 01 ,10 , 12211常用常用MA模型的自相關系數模型的自相關系數v MA(1)模型v MA(2)模型2, 01, 10, 1211kkkk3, 02, 11, 10, 1222122221211kkkkk例例3.6:考察如下考察如下MA模型的相關性質模型的相關性質212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxxMA(1)模型的自相

21、關系數模型的自相關系數1階截尾階截尾v v 112tttx（）120.5tttx（ ）不同的不同的MA(1)模型，相同的自相關系數模型，相同的自相關系數v考察上面兩個MA(1)模型的自相關圖，可以發現這兩個不同的MA模型具有相同的自相關圖v容易驗證它們的理論自相關系數也正好相等0.4 ,10,2kkkMA(2)模型的自相關系數模型的自相關系數2階截尾階截尾v v 124163525ttttx（ ）125254416ttttx（ ）不同的不同的MA(2)模型，相同的自相關系數模型，相同的自相關系數v考察上面兩個MA(2)模型的自相關圖，可以發現這兩個不同的MA模型具有相同的自相關圖v容易驗證它們

22、的理論自相關系數也正好相等0.64012,10.312256,20,3kkkkMA模型的可逆性模型的可逆性v例3.6演示了不同的MA模型，可能具有完全相同的自相關系數的現象。產生這種現象的原因就是我們在第二章中提到的：自相關系數有可能不唯一。v這種自相關系數的不唯一性，會給我們將來的工作增加麻煩。因為，將來我們都是通過樣本自相關系數顯示出來的特征選擇合適的模型擬合序列的發展，如果自相關系數和模型之間不是一一對應關系，就將導致擬合模型和隨機序列之間不會是一一對應關系。v為了保證一個給定的自相關函數能夠對應唯一的模型，我們就要給模型增加約束條件。這個約束條件稱為模型的可逆性條件。可逆的定義可逆的定

23、義v可逆MA模型定義 若一個MA模型能夠表示稱為收斂的AR模型形式，那么該MA模型稱為可逆MA模型v可逆概念的重要性 一個自相關系數列唯一對應一個可逆MA模型。可逆可逆MA(1)模型模型11tttx模型 ：112tttx模型 ：21ttBx1ttBx111,1模型 可逆1,2模型 可逆MA模型的可逆條件模型的可逆條件vMA(q)模型的可逆條件是： MA(q)模型的特征根都在單位圓內 等價條件是移動平滑系數多項式的根都在單位圓外11i1i逆函數的遞推公式逆函數的遞推公式v 原理v 方法：待定系數法v 遞推公式qkqkjIIIkkkjjkkj, 0, 2 , 1110其中，ttttttxxBIBx

24、BIBx)()()()(例例3.6續續:考察如下考察如下MA模型的可逆性模型的可逆性212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx(1)(2)v v v逆函數v逆轉形式不可逆1221tttx可逆15 . 05 . 01tttx05 . 0kktktx1,5 . 01kIkk(3)(4)v v v 逆函數v 逆轉形式可逆1, 125165412221ttttx, 1 , 0,23, 0133,) 1(1nnknnkIknk或013130338 . 0) 1(8 . 0) 1(nntnnnntnntxx不可逆116251625452

25、21ttttxMA模型偏自相關系數拖尾模型偏自相關系數拖尾v 對于一個可逆 模型，可以等價寫成 模型形式v 其中v AR(p)模型偏自相關系數p階截尾，所以可逆MA(q)模型偏自相關系數 階截尾，即具有偏自相關系數拖尾屬性。v 一個可逆MA(q)模型一定對應著一個與它具有相同自相關系數和偏自相關系數的不可逆MA(q)模型，這個不可逆MA(q)模型也同樣具有偏自相關系數拖尾特性。( )AR )(qMA( )ttI B x011,1ljkj kkIIIj例例3.7 求求MA(1)模型偏自相關系數的表達式模型偏自相關系數的表達式vMA(1)模型表達式：v根據偏自相關系數的定義，我們知道延遲k階偏自相

26、關系數是如下方程組的最后一個系數v對 依次求方程，可以得到MA(1)模型任意k階偏自相關系數的通解為11tttx 1122(1)1,1,2,jkjkjk kj kkkj kjk 1,2,jk1210,1kkkkjjk例例3.6續續v繪制下列MA模型的偏自相關系數圖，直觀考察MA模型偏自相關系數的拖尾性1112121220.541652534525416ttttttttttttttxxxx（）（ ）（ ）（ ）MA(1)模型偏自相關系數拖尾模型偏自相關系數拖尾112tttx（）120.5tttx（ ）MA(2)模型偏自相關系數拖尾模型偏自相關系數拖尾124163525ttttx（ ）125254

27、416ttttx（ ）ARMA模型模型的定義的定義v具有如下結構的模型稱為自回歸移動平均模型，簡記為v特別當 時，稱為中心化 模型),(qpARMA01111200( )0( ),()0,()0,ttptpttqt qpqtttsstxxxEVarEstE xst ，00),(qpARMA系數多項式系數多項式v引進延遲算子，中心化 模型又可以簡記為 v 階自回歸系數多項式v 階移動平均系數多項式),(qpARMAttBxB)()(qqqBBBB2211)(pppBBBB2211)(平穩條件與可逆條件平穩條件與可逆條件v ARMA(p,q)模型的平穩條件 P階自回歸系數多項式 的根都在單位圓外

28、即ARMA(p,q)模型的平穩性完全由其自回歸部分的平穩性決定v ARMA(p,q)模型的可逆條件 q階移動平均系數多項式 的根都在單位圓外 即ARMA(p,q)模型的可逆性完全由其移動平滑部分的可逆性決定0)( B0)( B傳遞形式與逆轉形式傳遞形式與逆轉形式v 傳遞形式v 逆轉形式10( ) ( )ttjtjjxBBG 011,1 ,10 ,kkjkjkjjjGGGkjqjq 其中：10( )( )ttjtjjBB xI x 011,1 ,10 ,kkjkjkjjjIIIkjqjq 其中：ARMA(p,q)模型的統計性質模型的統計性質v均值v協方差v自相關系數ptEx101 )(02iki

29、iGGk020)0()()(jjjkjjGGGkkARMA模型的相關性模型的相關性v自相關系數拖尾v偏自相關系數拖尾例例3.8:考察考察ARMA模型的相關性模型的相關性v擬合模型ARMA(1,1) 并直觀地考察該模型自相關系數和偏自相關系數的性質。 110.50.8ttttxx自相關系數和偏自相關系數拖尾性自相關系數和偏自相關系數拖尾性v 樣本自相關圖v 樣本偏自相關圖ARMA模型相關性特征模型相關性特征模型自相關系數偏自相關系數AR(P)拖尾P階截尾MA(q)q階截尾拖尾ARMA(p,q)拖尾拖尾本章結構本章結構方法性工具方法性工具1.ARMA模型模型2.平穩序列建模平穩序列建模3.序列預測

30、序列預測4.3.3平穩序列建模平穩序列建模 v本節結構 建模步驟 模型識別 參數估計 模型檢驗 模型優化 序列預測建模步驟建模步驟平平穩穩非非白白噪噪聲聲序序列列計計算算樣樣本本相相關關系系數數模型模型識別識別參數參數估計估計模型模型檢驗檢驗模模型型優優化化序序列列預預測測YN計算樣本相關系數計算樣本相關系數v樣本自相關系數v樣本偏自相關系數nttkntkttkxxxxxx121)()(DDkkk模型識別模型識別v 基本原則選擇模型拖尾P階截尾AR(P)q階截尾拖尾MA(q)拖尾拖尾ARMA(p,q)kkk模型定階的困難模型定階的困難v因為由于樣本的隨機性，樣本的相關系數不會呈現出理論截尾的完

31、美情況，本應截尾的 或 仍會呈現出小值振蕩的情況v由于平穩時間序列通常都具有短期相關性，隨著延遲階數 ， 與 都會衰減至零值附近作小值波動v當 或 在延遲若干階之后衰減為小值波動時，什么情況下該看作為相關系數截尾，什么情況下該看作為相關系數在延遲若干階之后正常衰減到零值附近作拖尾波動呢？ kkkkkkkkkk樣本相關系數的近似分布樣本相關系數的近似分布vBarlettvQuenouillennNk,)1, 0(nnNkk,)1, 0(模型定階經驗方法模型定階經驗方法v 95的置信區間v 模型定階的經驗方法 如果樣本(偏)自相關系數在最初的d階明顯大于兩倍標準差范圍，而后幾乎95的自相關系數都落

32、在2倍標準差的范圍以內，而且通常由非零自相關系數衰減為小值波動的過程非常突然。這時，通常視為(偏)自相關系數截尾。截尾階數為d。22Pr0.9522Pr0.95kkknnnn例例3.9v選擇合適的模型擬合1950年2008年我國郵路及農村投遞線路每年新增里程數序列。序列時序圖序列時序圖白噪聲檢驗白噪聲檢驗v時序圖顯示序列沒有顯著非平穩特征。白噪聲檢驗顯示序列值彼此之間蘊含著相關關系，為非白噪聲序列。序列自相關圖序列自相關圖序列偏自相關圖序列偏自相關圖擬合模型識別擬合模型識別v 樣本自相關圖顯示除了延遲1-3階的自相關系數在2倍標準差范圍之外，其他階數的自相關系數都在2倍標準差范圍內波動。根據自

33、相關系數的這個特點可以判斷該序列具有短期相關性，進一步確定序列平穩。v 考察自相關系數衰減向零的過程，可以看到有明顯的正弦波動軌跡，這說明自相關系數衰減到零不是一個突然的過程，而是一個有連續軌跡的過程，這是相關系數拖尾的典型特征v 考察偏自相關系數衰減向零的過程，除了1-2階偏自相關系數在2倍標準差范圍之外，其他階數的自相關系數都在2倍標準差范圍內做小值無序波動，這是一個典型的相關系數2階截尾特征v 本例中，根據自相關系數拖尾，偏自相關系數2階截尾屬性，我們可以初步確定擬合模型為AR(2)模型。例例3.10美國科羅拉多州某一加油站連續57天的OVERSHORT序列 序列自相關圖序列自相關圖序列

34、偏自相關圖序列偏自相關圖擬合模型識別擬合模型識別v 自相關圖顯示除了延遲1階的自相關系數在2倍標準差范圍之外，其它階數的自相關系數都在2倍標準差范圍內波動。根據這個特點可以判斷該序列具有短期相關性，進一步確定序列平穩。同時，可以認為該序列自相關系數1階截尾v 偏自相關系數顯示出典型非截尾的性質。v 綜合該序列自相關系數和偏自相關系數的性質，為擬合模型定階為MA(1) 例例3.11v 1880-1985全球氣表平均溫度改變值差分序列 序列自相關圖序列自相關圖序列偏自相關圖序列偏自相關圖擬合模型識別擬合模型識別v自相關系數顯示出不截尾的性質v偏自相關系數也顯示出不截尾的性質v綜合該序列自相關系數和

35、偏自相關系數的性質，可以嘗試使用ARMA(1,1)模型擬合該序列參數估計參數估計v待估參數 個未知參數v常用估計方法 矩估計 極大似然估計 最小二乘估計2pq211, ,pq 矩估計矩估計v原理 樣本自相關系數估計總體自相關系數 樣本一階均值估計總體均值，樣本方差估計總體方差111111( ,)( ,)pqp qpqp q 1niixxn2221221211xqp例例3.12:求求AR(2)模型系數的矩估計模型系數的矩估計vAR(2)模型vYule-Walker方程v矩估計（Yule-Walker方程的解）ttttxxx22112112121112121112121221例例3.13:求求MA

36、(1)模型系數的矩估計模型系數的矩估計vMA(1)模型v方程v矩估計11tttx2201111220111(1)1 12112411例例3.14:求求ARMA(1,1)模型系數的矩估計模型系數的矩估計vARMA(1,1)模型v方程v矩估計1111ttttxx1111 112011 1211()(1)12 1122122112121,2,242,24,ccccccc對矩估計的評價對矩估計的評價v 優點 估計思想簡單直觀 不需要假設總體分布 計算量小（低階模型場合）v 缺點 信息浪費嚴重只用到了p+q個樣本自相關系數信息，其他信息都被忽略 估計精度差v 通常矩估計方法被用作極大似然估計和最小二乘估

37、計迭代計算的初始值 極大似然估計極大似然估計v原理 在極大似然準則下，認為樣本來自使該樣本出現概率最大的總體。因此未知參數的極大似然估計就是使得似然函數（即聯合密度函數）達到最大的參數值 ,);(max),;,(21121kkxpxxL似然方程似然方程v由于 和 都不是 的顯式表達式。因而似然方程組實際上是由p+q+1個超越方程構成，通常需要經過復雜的迭代算法才能求出未知參數的極大似然估計值 ( )Sln 0)(21ln21);(02)(2);(2422SxlSnxl對極大似然估計的評價對極大似然估計的評價v優點 極大似然估計充分應用了每一個觀察值所提供的信息，因而它的估計精度高 同時還具有估

38、計的一致性、漸近正態性和漸近有效性等許多優良的統計性質v缺點 需要假定總體分布最小二乘估計最小二乘估計v原理 使殘差平方和達到最小的那組參數值即為最小二乘估計值 211111)(min)(min)(ntqtqtptpttxxxQQ條件最小二乘估計條件最小二乘估計v 實際中最常用的參數估計方法v 假設條件v 殘差平方和方程v 解法 迭代法0 ,0txtnitititnitxxQ121112)(對最小二乘估計的評價對最小二乘估計的評價v優點 最小二乘估計充分應用了每一個觀察值所提供的信息，因而它的估計精度高 條件最小二乘估計方法使用率最高v缺點 需要假定總體分布例例3.9續續v確定1950年200

39、8年我國郵路及農村投遞線路每年新增里程數序列擬合模型的口徑。 擬合模型：AR(2) 估計方法：極大似然估計 模型口徑128.93830.718530.5294ttttxxx2()19.61471tVar例例3.10續續v確定美國科羅拉多州某一加油站連續57天的OVERSHORTS序列擬合模型的口徑 擬合模型：MA(1) 估計方法：條件最小二乘估計 模型口徑ttBx)82303. 01 (40351. 4929.2178)(2Var例例3.11續續v確定1880-1985全球氣表平均溫度改變值差分序列擬合模型的口徑 擬合模型：ARMA(1,1) 估計方法：條件最小二乘估計 模型口徑119 . 0

40、407. 0003. 0ttttxx016. 0)(2Var模型的顯著性檢驗模型的顯著性檢驗v 目的 檢驗模型的有效性（對信息的提取是否充分）v 檢驗對象 殘差序列v 判定原則 一個好的擬合模型應該能夠提取觀察值序列中幾乎所有的樣本相關信息，即殘差序列應該為白噪聲序列 反之，如果殘差序列為非白噪聲序列，那就意味著殘差序列中還殘留著相關信息未被提取，這就說明擬合模型不夠有效假設條件假設條件v原假設：殘差序列為白噪聲序列v備擇假設：殘差序列為非白噪聲序列0120,1mHm：mkmHk，：至少存在某個1, 01檢驗統計量檢驗統計量vLB統計量221(2)() ( )mkkLBn nmnk模型檢驗模型

41、檢驗v模型的顯著性檢驗 整個模型對信息的提取是否充分v參數的顯著性檢驗 模型結構是否最簡例例3.9續續v檢驗1950年2008年我國郵路及農村投遞線路每年新增里程數序列擬合模型的顯著性 v殘差白噪聲序列檢驗結果延遲階數LB統計量P值檢驗結論62.340.6736擬合模型顯著有效123.270.9744184.070.9988(0.05)參數顯著性檢驗參數顯著性檢驗v目的 檢驗每一個未知參數是否顯著非零。刪除不顯著參數使模型結構最精簡 v假設條件v檢驗統計量mjHHjj10:0:10)()(mntQamnTjjjj例例3.9續續v檢驗1950年2008年我國郵路及農村投遞線路每年新增里程數序列擬

42、合模型參數的顯著性 v參數檢驗結果檢驗參數t統計量P值結論3.500.0005顯著非零6.460.0001顯著非零-4.750.0001顯著非零1(0.05)2例例3.10續續:對對OVERSHORTS序列的擬合模型進行檢驗序列的擬合模型進行檢驗 v 殘差白噪聲檢驗v 參數顯著性檢驗檢驗參數t統計量P值結論均值3.750.0004顯著非零10.600.0001顯著非零延遲階數LB統計量P值結論63.150.6772模型顯著有效129.050.61711例例3.11續續:對對1880-19851880-1985全球氣表平均溫度改變值差分序列擬合模型進行檢驗全球氣表平均溫度改變值差分序列擬合模型進

43、行檢驗 v 殘差白噪聲檢驗v 參數顯著性檢驗檢驗參數t統計量P值結論16.340.0001顯著非零3.50.0007顯著非零延遲階數LB統計量P值結論65.280.2595模型顯著有效1210.300.424711模型優化模型優化v問題提出 當一個擬合模型通過了檢驗，說明在一定的置信水平下，該模型能有效地擬合觀察值序列的波動，但這種有效模型并不是唯一的。v優化的目的 選擇相對最優模型 例例3.15:擬合某一化學序列擬合某一化學序列序列自相關圖序列自相關圖序列偏自相關圖序列偏自相關圖擬合模型一擬合模型一v根據自相關系數2階截尾，擬合MA(2)模型v參數估計v模型檢驗 模型顯著有效 三參數均顯著

44、ttBByield)31009. 032286. 01 (17301.512擬合模型二擬合模型二v 根據偏自相關系數1階截尾，擬合MA(1)模型v 參數估計v 模型檢驗 模型顯著有效 兩參數均顯著 Byieldtt42481. 0126169.51問題問題v同一個序列可以構造兩個擬合模型，兩個模型都顯著有效，那么到底該選擇哪個模型用于統計推斷呢？ v解決辦法 確定適當的比較準則，構造適當的統計量，確定相對最優AIC準則準則v最小信息量準則（An Information Criterion） v指導思想 似然函數值越大越好 未知參數的個數越少越好 vAIC統計量)(2)ln(2未知參數個數nAI

45、CSBC準則準則vAIC準則的缺陷 在樣本容量趨于無窮大時，由AIC準則選擇的模型不收斂于真實模型，它通常比真實模型所含的未知參數個數要多 vSBC統計量)(ln()ln(2未知參數nnSBC例例3.15續續v用AIC準則和SBC準則評判例3.15中兩個擬合模型的相對優劣 v結果 AR(1)優于MA(2)模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.2866本章結構本章結構方法性工具方法性工具1.ARMA模型模型2.平穩序列建模平穩序列建模3.序列預測序列預測4.序列預測序列預測v線性預測函數v預測方差最小原則10titiixC x ( )( )m

46、in( )t lxttVare lVar e l序列分解序列分解 111111( )( )t lt lt lltltltttxGGGGe lx l 預測誤差預測誤差預測值預測值)(),()( ),(11leVarxxxVarlxxxxEtttltttlt誤差分析誤差分析v估計誤差v期望v方差1111)(tlltlttGGle1022)(liitGleVar0)(leEtAR(p)序列的預測序列的預測v預測值v預測方差v95置信區間)() 1()( 1plxlxlxtpt22121)1 ()(ltGGleVar12221112 ( )1tlx lzGG例例3.16v已知某超市月銷售額近似服從AR

47、(2)模型（單位：萬元/每月）v今年第一季度該超市月銷售額（萬元）分別為：101，96，97.2v請確定該超市第二季度每月銷售額的95的置信區間 12100.60.3,(0,36)tttttxxxN例例3.14解：預測值計算解：預測值計算v四月份v五月份v六月份12.973 . 06 . 010) 1 (233xxx432.973 . 0) 1 (6 . 010)2(333xxx5952.97) 1 (3 . 0)2(6 . 010)3(333xxx例例3.14解：預測方差的計算解：預測方差的計算v GREEN函數v 方差01102112010.60.360.30.66GGGGGG6416.6

48、4)()3(96.48)()2(36)1 (222212032212032203GGGeVarGGeVarGeVar例例3.14解：置信區間解：置信區間v公式v估計結果)(96. 1)(,)(96. 1)(3333leVarlxleVarlx預測時期95置信區間四月份（85.36，108.88） 五月份（83.72，111.15） 六月份（81.84，113.35） 例例3.9續續v根據1950年2008年的觀察值序列預測2009-2013年我國郵路及農村投遞線路每年新增里程數MA(q)序列的預測序列的預測v預測值v預測方差qlqllxqliiltit,)(qlqlleVarqlt,)1 (,)1 ()(222122121例例3.17v 已知某地區每年常駐人口數量近似服從MA(3)模型（單位：萬人）：v 最近3年的常駐人口數量及一步預測數量如下：v 預測未來5年該地區常住人口的95置信區間21211000.80.60.2,25tttttx年份統計人數預測人數200210411020031081002004105109例例3.17解：隨機擾動項的計算解：隨機擾動項的計算4109105) 1 (