第三章 平穩(wěn)時(shí)間序列分析

1、第三章第三章 平穩(wěn)時(shí)間序列分析平穩(wěn)時(shí)間序列分析 本章結(jié)構(gòu)本章結(jié)構(gòu) 方法性工具方法性工具1. ARMA模型模型2. 平穩(wěn)序列建模平穩(wěn)序列建模3. 序列預(yù)測序列預(yù)測4. 3.1 方法性工具方法性工具 v本節(jié)結(jié)構(gòu) 差分運(yùn)算 延遲算子 線性差分方程 差分運(yùn)算差分運(yùn)算 v一階差分 v 階差分 v 步差分 p k 1 ttt xxx 1 11 t p t p t p xxx kttt k xxx 延遲算子延遲算子 v延遲算子類似于一個(gè)時(shí)間指針，當(dāng)前序列值乘以 一個(gè)延遲算子，就相當(dāng)于把當(dāng)前序列值的時(shí)間向 過去撥了一個(gè)時(shí)刻 v記B為延遲算子，有 1 2 2 ,1 tt tt p tpt xBx xB x xB

2、 xp 延遲算子的性質(zhì)延遲算子的性質(zhì) v v v v v ，其中 1 0 B 為任意常數(shù)cxcxBcxcB ttt ,)()( 1 11 )( tttt yxyxB ntt n xxB 0 (1)( 1) n niii n i BC B )!( ! ! ini n C i n 用延遲算子表示差分運(yùn)算用延遲算子表示差分運(yùn)算 v 階差分 v 步差分 p k 0 (1)( 1) p ppii ttpt i i xBxC x t k kttk xBxx)1 ( 線性差分方程線性差分方程 v線性差分方程 v齊次線性差分方程 )( 2211 thzazazaz ptpttt 0 2211 ptpttt z

3、azazaz 齊次線性差分方程的解齊次線性差分方程的解 v 特征方程 v 特征方程的根稱為特征根， 記作 v 齊次線性差分方程的通解 不相等實(shí)數(shù)根場合 有相等實(shí)根場合 復(fù)根場合 0 2 2 1 1 p ppp aaa p , 21 t pp tt t cccz 2211 t pp t dd td dt cctctccz 111 1 21 )( 1233 () titittt tpp zr c ec ecc d 21 非齊次線性差分方程的解非齊次線性差分方程的解 v非齊次線性差分方程的特解 使得非齊次線性差分方程成立的任意一個(gè)解 v非齊次線性差分方程的通解 齊次線性差分方程的通解 和非齊次線性差

4、分方程的特 解 之和 ttt zzz t z )( 2211 thzazazaz ptpttt t z 時(shí)序分析與線性差分方程的關(guān)系時(shí)序分析與線性差分方程的關(guān)系 v常用的時(shí)間序列模型和某些模型的自協(xié)方差函數(shù) 和自相關(guān)函數(shù)都可以視為線性差分方程 v線性差分方程對應(yīng)的特征根的性質(zhì)對判斷模型的 平穩(wěn)性有著非常重要的意義 本章結(jié)構(gòu)本章結(jié)構(gòu) 方法性工具方法性工具1. ARMA模型模型2. 平穩(wěn)序列建模平穩(wěn)序列建模3. 序列預(yù)測序列預(yù)測4. 3.2 ARMA模型模型 v本節(jié)結(jié)構(gòu) AR模型（Auto Regression Model） MA模型（Moving Average Model） ARMA模型（Au

5、to Regression Moving Average model） AR模型模型的定義的定義 v具有如下結(jié)構(gòu)的模型稱為 階自回歸模型，簡 記為 v特別當(dāng) 時(shí)，稱為中心化 模型 tsEx tsEVarE xxxx ts sttt p tptpttt , 0 , 0)(,)(0)( 0 2 22110 ， p )(pAR 0 0 )(pAR AR(P)序列中心化變換序列中心化變換 v稱 為 的中心化序列 ，令 p 1 0 1 tt xy t y t x 自回歸系數(shù)多項(xiàng)式自回歸系數(shù)多項(xiàng)式 v引進(jìn)延遲算子，中心化 模型又可以簡記 為 v自回歸系數(shù)多項(xiàng)式 )(pAR tt xB)( p p BBBB

6、 2 21 1)( AR模型平穩(wěn)性判別模型平穩(wěn)性判別 v判別原因 AR模型是常用的平穩(wěn)序列的擬合模型之一，但并 非所有的AR模型都是平穩(wěn)的 v判別方法 單位根判別法 平穩(wěn)域判別法 自回歸方程的解自回歸方程的解 v 任一個(gè)中心化 模型 都可以視為一個(gè)非齊次 線性差分方程，它的通解求法如下 （1）求齊次線性差分方程 的一個(gè)通解 （2）求非齊次線性差分方程 的一個(gè)特解 （3）求非齊次線性差分方程 的通解 tt xB)( )(pAR tt xB)( 0)( t xB t x t x 2 1 112 111 (cossin) pmdm jttt tjjjjjjjj jj dj xc tcr ctct p

7、 i t i i p i i tt t B k B B x 1 1 1 )1 ( )( tt xB)( 2 1 112 1111 (cossin) 1 pmpdm jttt i tjjjjjjjt jj dji i k xc tcctwct B ttt xxx 單位根檢驗(yàn)單位根檢驗(yàn) v自回歸序列平穩(wěn)，要求 v成立的條件 1 ,1,2,2 1 , 1,2, j j jpm jm 2 1 112 1111 limlim(cossin)0 1 pmpdm jttt i tjjjjjjjt tt jj dji i k xc tcctwct B 1212 ,(1,) pmjj ccccjm 平穩(wěn)域判別平

8、穩(wěn)域判別 v對于一個(gè) 模型而言，如果沒有平穩(wěn)性的要求， 實(shí)際上也就意味著對參數(shù)向量沒有任何限制，它 們可以取遍維歐氏空間的任意一點(diǎn) v如果加上了平穩(wěn)性限制，參數(shù)向量就只能取維歐 氏空間的一個(gè)子集，使得特征根都在單位圓內(nèi)的 系數(shù)集合 v對于低階自回歸模型用平穩(wěn)域的方法判別模型的 平穩(wěn)性通常更為簡便。 )(pAR 12 , p 特征根都在單位圓內(nèi) AR(1)模型平穩(wěn)條件模型平穩(wěn)條件 v 方程結(jié)構(gòu) v 特征根 v 平穩(wěn)域 1 ttt xx AR(2)模型的平穩(wěn)條件模型的平穩(wěn)條件 v 方程結(jié)構(gòu) v 特征根 v 平穩(wěn)域 22 112112 12 44 22 12221 ,11 ，且 1122tttt x

9、xx 212 21121212 21121212 (1)1 (2)1 (1)(1)1 (3)1 (1)(1)1 AR(2)的平穩(wěn)域的平穩(wěn)域 11, 12221 ，且 例例3.1:考察如下四個(gè)考察如下四個(gè)模型的平穩(wěn)性模型的平穩(wěn)性 1 (1)0.8 ttt xx 1 (2)1.1 ttt xx 12 (3)0.5 tttt xxx tttt xxx 11 5 . 0)4( 例例3.1平穩(wěn)序列時(shí)序圖平穩(wěn)序列時(shí)序圖 1 (1)0.8 ttt xx 12 (3)0.5 tttt xxx 例例3.1非平穩(wěn)序列時(shí)序圖非平穩(wěn)序列時(shí)序圖 1 (2)1.1 ttt xx tttt xxx 11 5 . 0)4(

10、例例3.1平穩(wěn)性判別平穩(wěn)性判別 8 . 0 1 0.8 1 . 1 1 1.1 2 1 1 i 2 1 2 i 22121 0.5,0.5,1.5 2 31 1 2 31 2 22121 0.5,1.5,0.5 模 型 特征根判別平穩(wěn)域判別 結(jié) 論 (1)平穩(wěn) (2) 非 平穩(wěn) (3)平穩(wěn) (4) 非 平穩(wěn) 平穩(wěn)平穩(wěn)AR模型的統(tǒng)計(jì)性質(zhì)模型的統(tǒng)計(jì)性質(zhì) v均值 v方差 v協(xié)方差 v自相關(guān)系數(shù) v偏自相關(guān)系數(shù) 均值均值 v 如果AR(p)模型滿足平穩(wěn)性條件，則有 v 根據(jù)平穩(wěn)序列均值為常數(shù)，且 為白噪聲序列，有 v 推導(dǎo)出 p 1 0 1 )( 110tptptt xxEEx TtEEx tt ,0

11、)(, t Green函數(shù)定義函數(shù)定義 vAR模型的傳遞形式 v其中系數(shù) 稱為Green函數(shù) , 2 , 1,jG j 110 01 0 () ( )1 pp j ti ttiit iij i p j iitj ji jtj j k xkB BB k G Green函數(shù)遞推公式函數(shù)遞推公式 v 原理 v 方法：待定系數(shù)法 tt tt tt BGB BGx xB )()( )( )( 10 11 1 0 1 (1)() 1() 0 1 , 0,1,2, p kj kjtt kj j j jkj ktt jk j jkj k k k j k jkj k k BG B GGB GG G kp kpG

12、Gj 其中， 例例3.2:求平穩(wěn)求平穩(wěn)AR(1)模型的方差模型的方差 v 平穩(wěn)AR(1)模型的Green函數(shù) v Green函數(shù)為 v 平穩(wěn)AR(1)模型的方差 it i i t i i t t B B x 0 1 0 1 1 )( 1 , 1 , 0, 1 jG j j 2 1 2 2 0 2 1 0 2 1 )()( j j t j jt VarGxVar 方差方差 v平穩(wěn)AR模型的傳遞形式 v兩邊求方差得 函數(shù)為GreenGGxVar j j jt ,)( 2 0 2 jt j jt Gx 0 協(xié)方差函數(shù)協(xié)方差函數(shù) v 在平穩(wěn)AR(p)模型兩邊同乘 ，再求期望 v 根據(jù) v 得協(xié)方差函數(shù)

13、的遞推公式 )()()()( 11kttktptpkttktt xExxExxExxE kt x 1,k 0)( ktt xE 1,kpkpkkk 2211 例例3.3:求平穩(wěn)求平穩(wěn)AR(1)模型的協(xié)方差模型的協(xié)方差 v 遞推公式 v 平穩(wěn)AR(1)模型的方差為 v 協(xié)方差函數(shù)的遞推公式為 0111 k kk 2 1 2 0 1 2 1 2 1 ,1 1 k k k 例例3.4:求平穩(wěn)求平穩(wěn)AR(2)模型的協(xié)方差模型的協(xié)方差 v 平穩(wěn)AR(2)模型的協(xié)方差函數(shù)遞推公式為 2 1 )1)(1)(1 ( 1 2211 2 01 1 2 21212 2 0 k kkk ， 自相關(guān)系數(shù)自相關(guān)系數(shù) v自

14、相關(guān)系數(shù)的定義 v平穩(wěn)AR(P)模型的自相關(guān)系數(shù)遞推公式 0 k k 1122kkkpkp 常用常用AR模型自相關(guān)系數(shù)遞推公式模型自相關(guān)系數(shù)遞推公式 vAR(1)模型 vAR(2)模型 0, 1 k k k 2 1 1 0, 1 2211 2 1 k k k kk k AR模型自相關(guān)系數(shù)的性質(zhì)模型自相關(guān)系數(shù)的性質(zhì) v AR模型自相關(guān)系數(shù)的表達(dá)式是一個(gè)齊次差分方程，設(shè)它 的通解形式為 v 呈指數(shù)衰減 v 拖尾性 1 p k kii i c 1, , ip cc1,且不能恒等于零 1 0 p k ikii i c 1 1 1 , p p k kii i cc ck 不能恒等于零 不會恒等于零,某個(gè)

15、常數(shù) 例例3.5:考察如下考察如下AR模型的自相關(guān)圖模型的自相關(guān)圖 tttt tttt ttt ttt xxx xxx xx xx 21 21 1 1 5 . 0)4( 5 . 0)3( 8 . 0)2( 8 . 0) 1 ( 例例3.5：考察四個(gè)平穩(wěn)：考察四個(gè)平穩(wěn)AR模型的自相關(guān)圖模型的自相關(guān)圖 v自相關(guān)系數(shù)按復(fù)指數(shù)單調(diào)收斂到零 1 (1)0.8 ttt xx 例例3.5：考察四個(gè)平穩(wěn)：考察四個(gè)平穩(wěn)AR模型的自相關(guān)圖模型的自相關(guān)圖 v自相關(guān)系數(shù)呈正負(fù)相間衰減 1 (2)0.8 ttt xx 例例3.5：考察四個(gè)平穩(wěn)：考察四個(gè)平穩(wěn)AR模型的自相關(guān)圖模型的自相關(guān)圖 v自相關(guān)系數(shù)呈現(xiàn)出“偽周期”性

16、 12 (3)0.5 tttt xxx 例例3.5：考察四個(gè)平穩(wěn)：考察四個(gè)平穩(wěn)AR模型的自相關(guān)圖模型的自相關(guān)圖 v自相關(guān)系數(shù)不規(guī)則衰減 12 (4)0.5 tttt xxx 偏自相關(guān)系數(shù)偏自相關(guān)系數(shù) v定義 對于平穩(wěn) 序列，所謂滯后k偏自相關(guān)系數(shù)就是指在 給定中間k-1個(gè)隨機(jī)變量 的條件下，或者 說，在剔除了中間k-1個(gè)隨機(jī)變量的干擾之后， 對 影響的相關(guān)度量。用數(shù)學(xué)語言描述就是 121 , kttt xxx kt x t x 2 , ) ( ) )( ( 11 ktkt ktkttt xxxx xExE xExxExE kttktt ( )AR p 偏自相關(guān)系數(shù)的計(jì)算偏自相關(guān)系數(shù)的計(jì)算 11

17、 , 2 1111 1122(1)1 1122 ()() () , tt ktt k ttt kk t x xxx t kt k tttt kt kt ktt k t tktktk kt kkkt k tktkt E xExxEx E xEx ExE x xxExE xxx kxk xxxxx Exxx 其中： 用過去 期的序列值對 做 階自回歸擬合： 11 (1)111 1122(1)1 2 , 2 ( ),) ( ) ()()() ()() () tt ktt k k kt kkkt kttt k ktktk kt kkkt k ttt kt kkkt kt k ttt kk t x xx

18、x t kt k xE xExx xxxE x E xExxExE xEx E xExxEx E xEx （ kk Yule-Walker方程組方程組 v 在 方程等號兩邊同 時(shí)乘以 ，并取期望，得 v 取前k k個(gè)方程構(gòu)成的方程組即Yule-Walker方程組 v 解Yule-Walker方程組可以得到參數(shù) 的解， 最后一個(gè)參數(shù)的解即為延遲K偏自相關(guān)系數(shù) 02211 202112 112011 kkkkkkk kkkkk kkkkk kt x 1122 ,0 lklklkkl k l ),( 21 kkkk 1122(1)1tktktk kt kkkt k xxxxx Yule-Walker

19、方程求解方程求解 1111 2122 12 1111 1212 1212 Yule-Walker 1 1 1 11 11 , 1 k k pkkk k kk k k k kkkkk D D DD 方程寫成矩陣形式為： 根據(jù)Cramer法則 其中 AR模型偏自相關(guān)系數(shù)的截尾性模型偏自相關(guān)系數(shù)的截尾性 11 22 1 122 111 212 12 1,2, ( ) 1 1 0 0 i i ii i kk pp p p k kpkkk k kk ik AR p Dkp D kp D 記， 對于模型有： ， ， AR(1)模型偏自相關(guān)系數(shù)的計(jì)算模型偏自相關(guān)系數(shù)的計(jì)算 v AR(1)模型 v Jule-

20、Walker方程 v 偏自相關(guān)系數(shù)的解 11ttt xx 11101111 1 1 02 kk k k AR(2)模型偏自相關(guān)系數(shù)的計(jì)算模型偏自相關(guān)系數(shù)的計(jì)算 1 2 2 ,1 1 (2),2 0,3 kk k ARk k 模型的偏相關(guān)系數(shù)為 111 1121 1 111 2 1Yule-Walker (2) 1 k AR 時(shí)，方程為 對模型又有 121221 221122 1121 2112 222 2Yule-Walker (2) k AR 時(shí)，方程為 對模型又有 例例3.5續(xù)續(xù):考察如下考察如下AR模型的偏自相關(guān)圖模型的偏自相關(guān)圖 tttt tttt ttt ttt xxx xxx xx

21、 xx 21 21 1 1 5 . 0)4( 5 . 0)3( 8 . 0)2( 8 . 0) 1 ( 例例3.5續(xù)續(xù):考察如下考察如下AR模型的偏自相關(guān)圖模型的偏自相關(guān)圖 v 理論偏自相關(guān)系數(shù)v 樣本偏自相關(guān)圖 1 (1)0.8 ttt xx 0.8,1 0,2 kk k k 例例3.5續(xù)續(xù):考察如下考察如下AR模型的偏自相關(guān)圖模型的偏自相關(guān)圖 v 理論偏自相關(guān)系數(shù)v 樣本偏自相關(guān)圖 1 (2)0.8 ttt xx 0.8,1 0,2 kk k k 例例3.5續(xù)續(xù):考察如下考察如下AR模型的偏自相關(guān)圖模型的偏自相關(guān)圖 v 理論偏自相關(guān)系數(shù)v 樣本偏自相關(guān)圖 12 (3)0.5 tttt xx

22、x 2 ,1 3 0.5,2 0,3 kk k k k 例例3.5續(xù)續(xù):考察如下考察如下AR模型的偏自相關(guān)圖模型的偏自相關(guān)圖 v 理論偏自相關(guān)系數(shù)v 樣本偏自相關(guān)系數(shù)圖 12 (4)0.5 tttt xxx 2 ,1 3 0.5,2 0,3 kk k k k MA模型模型的定義的定義 v具有如下結(jié)構(gòu)的模型稱為 階自回歸模型，簡 記為 v特別當(dāng) 時(shí)，稱為中心化 模型 q )(qMA 0)(qMA 1122 2 0 ( )0( ),()0, ttttqt q q ttts x EVarEst ， 移動平均系數(shù)多項(xiàng)式移動平均系數(shù)多項(xiàng)式 v引進(jìn)延遲算子，中心化 模型又可以簡記為 v 階移動平均系數(shù)多項(xiàng)

23、式 )(qMA tt Bx)( q q q BBBB 2 21 1)( MA模型的統(tǒng)計(jì)性質(zhì)模型的統(tǒng)計(jì)性質(zhì) v常數(shù)均值 v常數(shù)方差 ）（ qtqtttt EEx 2211 222 1 2211 )1 ( )()( q qtqtttt VarxVar MA模型的統(tǒng)計(jì)性質(zhì)模型的統(tǒng)計(jì)性質(zhì) v 自協(xié)方差函數(shù)q階截尾v 自相關(guān)系數(shù)q階截尾 q k qk k kq i ikik q k , 0 1 ,)( 0 ,)1 ( 2 1 222 1 qk qk k q kq i ikik k , 0 1 , 1 0 , 1 22 1 1 常用常用MA模型的自相關(guān)系數(shù)模型的自相關(guān)系數(shù) v MA(1)模型v MA(2)

24、模型 2, 0 1, 1 0, 1 2 1 1 k k k k 3, 0 2, 1 1, 1 0, 1 2 2 2 1 2 2 2 2 1 211 k k k k k 例例3.6:考察如下考察如下MA模型的相關(guān)性質(zhì)模型的相關(guān)性質(zhì) 21 21 1 1 16 25 4 5 )4( 25 16 5 4 )3( 5 . 0)2( 2) 1 ( tttt tttt ttt ttt x x x x MA(1)模型的自相關(guān)系數(shù)模型的自相關(guān)系數(shù)1階截尾階截尾 v v 1 12 ttt x （） 1 20.5 ttt x （ ） 不同的不同的MA(1)模型，相同的自相關(guān)系數(shù)模型，相同的自相關(guān)系數(shù) v考察上面兩個(gè)

25、MA(1)模型的自相關(guān)圖，可以發(fā) 現(xiàn)這兩個(gè)不同的MA模型具有相同的自相關(guān)圖 v容易驗(yàn)證它們的理論自相關(guān)系數(shù)也正好相等 0.4 ,1 0,2 k k k MA(2)模型的自相關(guān)系數(shù)模型的自相關(guān)系數(shù)2階截尾階截尾 v v 12 416 3 525 tttt x （ ）12 525 4 416 tttt x （ ） 不同的不同的MA(2)模型，相同的自相關(guān)系數(shù)模型，相同的自相關(guān)系數(shù) v考察上面兩個(gè)MA(2)模型的自相關(guān)圖，可以發(fā) 現(xiàn)這兩個(gè)不同的MA模型具有相同的自相關(guān)圖 v容易驗(yàn)證它們的理論自相關(guān)系數(shù)也正好相等 0.64012,1 0.312256,2 0,3 k k k k MA模型的可逆性模型的

26、可逆性 v例3.6演示了不同的MA模型，可能具有完全相同 的自相關(guān)系數(shù)的現(xiàn)象。產(chǎn)生這種現(xiàn)象的原因就是 我們在第二章中提到的：自相關(guān)系數(shù)有可能不唯 一。 v這種自相關(guān)系數(shù)的不唯一性，會給我們將來的工 作增加麻煩。因?yàn)?，將來我們都是通過樣本自相 關(guān)系數(shù)顯示出來的特征選擇合適的模型擬合序列 的發(fā)展，如果自相關(guān)系數(shù)和模型之間不是一一對 應(yīng)關(guān)系，就將導(dǎo)致擬合模型和隨機(jī)序列之間不會 是一一對應(yīng)關(guān)系。 v為了保證一個(gè)給定的自相關(guān)函數(shù)能夠?qū)?yīng)唯一的 模型，我們就要給模型增加約束條件。這個(gè)約束 條件稱為模型的可逆性條件。 可逆的定義可逆的定義 v可逆MA模型定義 若一個(gè)MA模型能夠表示稱為收斂的AR模型形 式，

27、那么該MA模型稱為可逆MA模型 v可逆概念的重要性 一個(gè)自相關(guān)系數(shù)列唯一對應(yīng)一個(gè)可逆MA模型。 可逆可逆MA(1)模型模型 1 1 ttt x 模型 ： 1 1 2 ttt x 模型 ： 2 1 t t B x 1 t t B x 1 1 1,1模型 可逆1,2模型 可逆 MA模型的可逆條件模型的可逆條件 vMA(q)模型的可逆條件是： MA(q)模型的特征根都在單位圓內(nèi) 等價(jià)條件是移動平滑系數(shù)多項(xiàng)式的根都在單位圓外 1 1 i 1 i 逆函數(shù)的遞推公式逆函數(shù)的遞推公式 v 原理 v 方法：待定系數(shù)法 v 遞推公式 qk qk jII I k k kj j k kj , 0 , , , 2 ,

28、 1 1 1 0 其中 ， tt tt tt xxBIB xBI Bx )()( )( )( 例例3.6續(xù)續(xù):考察如下考察如下MA模型的可逆性模型的可逆性 21 21 1 1 16 25 4 5 )4( 25 16 5 4 )3( 5 . 0)2( 2) 1 ( tttt tttt ttt ttt x x x x (1)(2) v v v逆函數(shù) v逆轉(zhuǎn)形式 不可逆 122 1 ttt x 可逆 15 . 05 . 0 1 ttt x 0 5 . 0 k kt k t x 1,5 . 0 1 k I k k (3)(4) v v v 逆函數(shù) v 逆轉(zhuǎn)形式 可逆 1, 1 25 16 5 4 12

29、221 tttt x , 1 , 0, 23, 0 133,) 1( 1 n nk nnk I kn k 或 0 13 13 0 3 3 8 . 0) 1(8 . 0) 1( n nt nn n nt nn t xx 不可逆 1 16 25 16 25 4 5 221 tttt x MA模型偏自相關(guān)系數(shù)拖尾模型偏自相關(guān)系數(shù)拖尾 v 對于一個(gè)可逆 模型，可以等價(jià)寫成 模型形式 v 其中 v AR(p)模型偏自相關(guān)系數(shù)p階截尾，所以可逆MA(q)模型偏 自相關(guān)系數(shù) 階截尾，即具有偏自相關(guān)系數(shù)拖尾屬性。 v 一個(gè)可逆MA(q)模型一定對應(yīng)著一個(gè)與它具有相同自相關(guān) 系數(shù)和偏自相關(guān)系數(shù)的不可逆MA(q)

30、模型，這個(gè)不可逆 MA(q)模型也同樣具有偏自相關(guān)系數(shù)拖尾特性。 ( )AR )(qMA ( ) tt I B x 0 1 1 ,1 l jkj k k I IIj 例例3.7 求求MA(1)模型偏自相關(guān)系數(shù)的表達(dá)式模型偏自相關(guān)系數(shù)的表達(dá)式 vMA(1)模型表達(dá)式： v根據(jù)偏自相關(guān)系數(shù)的定義，我們知道延遲k階偏自 相關(guān)系數(shù)是如下方程組的最后一個(gè)系數(shù) v對 依次求方程，可以得到MA(1)模 型任意k階偏自相關(guān)系數(shù)的通解為 11ttt x 1122(1)1 ,1,2, jkjkjk kj kkkj k jk 1,2,jk 1 2 1 0 ,1 k kkk j j k 例例3.6續(xù)續(xù) v繪制下列MA

31、模型的偏自相關(guān)系數(shù)圖，直觀考察 MA模型偏自相關(guān)系數(shù)的拖尾性 11 1212 1220.5 416525 34 525416 tttttt tttttttt xx xx （）（ ） （ ）（ ） MA(1)模型偏自相關(guān)系數(shù)拖尾模型偏自相關(guān)系數(shù)拖尾 1 12 ttt x （） 1 20.5 ttt x （ ） MA(2)模型偏自相關(guān)系數(shù)拖尾模型偏自相關(guān)系數(shù)拖尾 12 416 3 525 tttt x （ ） 12 525 4 416 tttt x （ ） ARMA模型模型的定義的定義 v具有如下結(jié)構(gòu)的模型稱為自回歸移動平均模型， 簡記為 v特別當(dāng) 時(shí)，稱為中心化 模型 ),(qpARMA 011

32、11 2 00 ( )0( ),()0, ()0, ttptpttqt q pq ttts st xxx EVarEst E xst ， ， 0 0 ),(qpARMA 系數(shù)多項(xiàng)式系數(shù)多項(xiàng)式 v引進(jìn)延遲算子，中心化 模型又可 以簡記為 v 階自回歸系數(shù)多項(xiàng)式 v 階移動平均系數(shù)多項(xiàng)式 ),(qpARMA tt BxB)()( q q q BBBB 2 21 1)( p p pB BBB 2 21 1)( 平穩(wěn)條件與可逆條件平穩(wěn)條件與可逆條件 v ARMA(p,q)模型的平穩(wěn)條件 P階自回歸系數(shù)多項(xiàng)式 的根都在單位圓外 即ARMA(p,q)模型的平穩(wěn)性完全由其自回歸部分的平穩(wěn)性決 定 v ARM

33、A(p,q)模型的可逆條件 q階移動平均系數(shù)多項(xiàng)式 的根都在單位圓外 即ARMA(p,q)模型的可逆性完全由其移動平滑部分的可逆性 決定 0)( B 0)( B 傳遞形式與逆轉(zhuǎn)形式傳遞形式與逆轉(zhuǎn)形式 v 傳遞形式v 逆轉(zhuǎn)形式 1 0 ( ) ( ) tt jtj j xBB G 0 1 1 ,1 ,1 0 , k kjkjk j j j G GGk jq jq 其中： 1 0 ( )( ) tt jtj j BB x I x 0 1 1 ,1 ,1 0 , k kjkjk j j j I IIk jq jq 其中： ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)模型的統(tǒng)計(jì)性質(zhì) v均值 v協(xié)方差 v自相關(guān)系數(shù)

34、 p t Ex 1 0 1 )( 0 2 i kiiG Gk 0 2 0 )0( )( )( j j j kjj G GG k k ARMA模型的相關(guān)性模型的相關(guān)性 v自相關(guān)系數(shù)拖尾 v偏自相關(guān)系數(shù)拖尾 例例3.8:考察考察ARMA模型的相關(guān)性模型的相關(guān)性 v擬合模型ARMA(1,1) 并直觀地考察該模型自相關(guān)系數(shù)和偏自相關(guān)系數(shù) 的性質(zhì)。 11 0.50.8 tttt xx 自相關(guān)系數(shù)和偏自相關(guān)系數(shù)拖尾性自相關(guān)系數(shù)和偏自相關(guān)系數(shù)拖尾性 v 樣本自相關(guān)圖v 樣本偏自相關(guān)圖 ARMA模型相關(guān)性特征模型相關(guān)性特征 本章結(jié)構(gòu)本章結(jié)構(gòu) 方法性工具方法性工具1. ARMA模型模型2. 平穩(wěn)序列建模平穩(wěn)序列

35、建模3. 序列預(yù)測序列預(yù)測4. 3.3平穩(wěn)序列建模平穩(wěn)序列建模 v本節(jié)結(jié)構(gòu) 建模步驟 模型識別 參數(shù)估計(jì) 模型檢驗(yàn) 模型優(yōu)化 序列預(yù)測 建模步驟建模步驟 平平 穩(wěn)穩(wěn) 非非 白白 噪噪 聲聲 序序 列列 計(jì)計(jì) 算算 樣樣 本本 相相 關(guān)關(guān) 系系 數(shù)數(shù) 模型模型 識別識別 參數(shù)參數(shù) 估計(jì)估計(jì) 模型模型 檢驗(yàn)檢驗(yàn) 模模 型型 優(yōu)優(yōu) 化化 序序 列列 預(yù)預(yù) 測測 Y N 計(jì)算樣本相關(guān)系數(shù)計(jì)算樣本相關(guān)系數(shù) v樣本自相關(guān)系數(shù)v樣本偏自相關(guān)系數(shù) n t t kn t ktt k xx xxxx 1 2 1 )( )( D Dk kk 模型識別模型識別 v 基本原則 kk k 模型定階的困難模型定階的困難 v

36、因?yàn)橛捎跇颖镜碾S機(jī)性，樣本的相關(guān)系數(shù)不會呈 現(xiàn)出理論截尾的完美情況，本應(yīng)截尾的 或 仍會呈現(xiàn)出小值振蕩的情況 v由于平穩(wěn)時(shí)間序列通常都具有短期相關(guān)性，隨著 延遲階數(shù) ， 與 都會衰減至零值附近作 小值波動 v當(dāng) 或 在延遲若干階之后衰減為小值波動時(shí)， 什么情況下該看作為相關(guān)系數(shù)截尾，什么情況下 該看作為相關(guān)系數(shù)在延遲若干階之后正常衰減到 零值附近作拖尾波動呢？ k k kk k kk k kk 樣本相關(guān)系數(shù)的近似分布樣本相關(guān)系數(shù)的近似分布 vBarlett vQuenouille n n N k ,) 1 , 0( n n N kk ,) 1 , 0( 模型定階經(jīng)驗(yàn)方法模型定階經(jīng)驗(yàn)方法 v 9

37、5的置信區(qū)間 v 模型定階的經(jīng)驗(yàn)方法 如果樣本(偏)自相關(guān)系數(shù)在最初的d階明顯大于兩倍標(biāo)準(zhǔn)差 范圍，而后幾乎95的自相關(guān)系數(shù)都落在2倍標(biāo)準(zhǔn)差的范圍 以內(nèi)，而且通常由非零自相關(guān)系數(shù)衰減為小值波動的過程非 常突然。這時(shí)，通常視為(偏)自相關(guān)系數(shù)截尾。截尾階數(shù)為 d。 22 Pr0.95 22 Pr0.95 k kk nn nn 例例3.9 v選擇合適的模型擬合1950年2008年我國郵路及 農(nóng)村投遞線路每年新增里程數(shù)序列。 序列時(shí)序圖序列時(shí)序圖 白噪聲檢驗(yàn)白噪聲檢驗(yàn) v時(shí)序圖顯示序列沒有顯著非平穩(wěn)特征。白噪聲檢 驗(yàn)顯示序列值彼此之間蘊(yùn)含著相關(guān)關(guān)系，為非白 噪聲序列。 序列自相關(guān)圖序列自相關(guān)圖 序列

38、偏自相關(guān)圖序列偏自相關(guān)圖 擬合模型識別擬合模型識別 v 樣本自相關(guān)圖顯示除了延遲1-3階的自相關(guān)系數(shù)在2倍標(biāo)準(zhǔn) 差范圍之外，其他階數(shù)的自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍 內(nèi)波動。根據(jù)自相關(guān)系數(shù)的這個(gè)特點(diǎn)可以判斷該序列具有 短期相關(guān)性，進(jìn)一步確定序列平穩(wěn)。 v 考察自相關(guān)系數(shù)衰減向零的過程，可以看到有明顯的正弦 波動軌跡，這說明自相關(guān)系數(shù)衰減到零不是一個(gè)突然的過 程，而是一個(gè)有連續(xù)軌跡的過程，這是相關(guān)系數(shù)拖尾的典 型特征 v 考察偏自相關(guān)系數(shù)衰減向零的過程，除了1-2階偏自相關(guān) 系數(shù)在2倍標(biāo)準(zhǔn)差范圍之外，其他階數(shù)的自相關(guān)系數(shù)都在2 倍標(biāo)準(zhǔn)差范圍內(nèi)做小值無序波動，這是一個(gè)典型的相關(guān)系 數(shù)2階截尾特征 v

39、 本例中，根據(jù)自相關(guān)系數(shù)拖尾，偏自相關(guān)系數(shù)2階截尾屬 性，我們可以初步確定擬合模型為AR(2)模型。 例例3.10 美國科羅拉多州某一加油站連續(xù)57天的OVERSHORT序列 序列自相關(guān)圖序列自相關(guān)圖 序列偏自相關(guān)圖序列偏自相關(guān)圖 擬合模型識別擬合模型識別 v 自相關(guān)圖顯示除了延遲1階的自相關(guān)系數(shù)在2倍標(biāo)準(zhǔn)差范 圍之外，其它階數(shù)的自相關(guān)系數(shù)都在2倍標(biāo)準(zhǔn)差范圍內(nèi) 波動。根據(jù)這個(gè)特點(diǎn)可以判斷該序列具有短期相關(guān)性， 進(jìn)一步確定序列平穩(wěn)。同時(shí)，可以認(rèn)為該序列自相關(guān)系 數(shù)1階截尾 v 偏自相關(guān)系數(shù)顯示出典型非截尾的性質(zhì)。 v 綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)，為擬合 模型定階為MA(1) 例例3

40、.11 v 1880-1985全球氣表平均溫度改變值差分序列 序列自相關(guān)圖序列自相關(guān)圖 序列偏自相關(guān)圖序列偏自相關(guān)圖 擬合模型識別擬合模型識別 v自相關(guān)系數(shù)顯示出不截尾的性質(zhì) v偏自相關(guān)系數(shù)也顯示出不截尾的性質(zhì) v綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)， 可以嘗試使用ARMA(1,1)模型擬合該序列 參數(shù)估計(jì)參數(shù)估計(jì) v待估參數(shù) 個(gè)未知參數(shù) v常用估計(jì)方法 矩估計(jì) 極大似然估計(jì) 最小二乘估計(jì) 2pq 2 11 , , pq 矩估計(jì)矩估計(jì) v原理 樣本自相關(guān)系數(shù)估計(jì)總體自相關(guān)系數(shù) 樣本一階均值估計(jì)總體均值，樣本方差估計(jì)總體方差 1111 11 ( ,) ( ,) pq p qpqp q 1 n

41、 i i x x n 2 22 1 22 1 2 1 1 x q p 例例3.12:求求AR(2)模型系數(shù)的矩估計(jì)模型系數(shù)的矩估計(jì) vAR(2)模型 vYule-Walker方程 v矩估計(jì)（Yule-Walker方程的解） tttt xxx 2211 2112 1211 1 2 1 2 1 1 1 2 1 2 12 2 1 例例3.13:求求MA(1)模型系數(shù)的矩估計(jì)模型系數(shù)的矩估計(jì) vMA(1)模型 v方程 v矩估計(jì) 11 ttt x 22 01 11 1 2 2 01 11 (1) 1 1 2 1 1 2 411 例例3.14:求求ARMA(1,1)模型系數(shù)的矩估計(jì)模型系數(shù)的矩估計(jì) vAR

42、MA(1,1)模型 v方程 v矩估計(jì) 1111 tttt xx 1111 1 1 2 011 1 211 ()(1) 12 11 2 2 1 2 2 1 1 2 1 21 , 2, 2 4 2, 2 4 , c c cc c cc 對矩估計(jì)的評價(jià)對矩估計(jì)的評價(jià) v 優(yōu)點(diǎn) 估計(jì)思想簡單直觀 不需要假設(shè)總體分布 計(jì)算量小（低階模型場合） v 缺點(diǎn) 信息浪費(fèi)嚴(yán)重 只用到了p+q個(gè)樣本自相關(guān)系數(shù)信息，其他信息都被忽略 估計(jì)精度差 v 通常矩估計(jì)方法被用作極大似然估計(jì)和最小二乘估計(jì)迭代 計(jì)算的初始值 極大似然估計(jì)極大似然估計(jì) v原理 在極大似然準(zhǔn)則下，認(rèn)為樣本來自使該樣本出現(xiàn)概 率最大的總體。因此未知參

43、數(shù)的極大似然估計(jì)就是 使得似然函數(shù)（即聯(lián)合密度函數(shù)）達(dá)到最大的參數(shù) 值 ,); (max) ,; , , ( 21121kk xpxxL 似然方程似然方程 v由于 和 都不是 的顯式表達(dá)式。因而似 然方程組實(shí)際上是由p+q+1個(gè)超越方程構(gòu)成，通常 需要經(jīng)過復(fù)雜的迭代算法才能求出未知參數(shù)的極 大似然估計(jì)值 ( )S ln 0 ) ( 2 1 ln 2 1 ) ; ( 0 2 ) ( 2 ) ; ( 2 422 S xl Sn xl 對極大似然估計(jì)的評價(jià)對極大似然估計(jì)的評價(jià) v優(yōu)點(diǎn) 極大似然估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信 息，因而它的估計(jì)精度高 同時(shí)還具有估計(jì)的一致性、漸近正態(tài)性和漸近有效

44、性等許多優(yōu)良的統(tǒng)計(jì)性質(zhì) v缺點(diǎn) 需要假定總體分布 最小二乘估計(jì)最小二乘估計(jì) v原理 使殘差平方和達(dá)到最小的那組參數(shù)值即為最小二乘 估計(jì)值 2 1 1111 )(min ) (min) ( n t qtqtptptt xxx QQ 條件最小二乘估計(jì)條件最小二乘估計(jì) v 實(shí)際中最常用的參數(shù)估計(jì)方法 v 假設(shè)條件 v 殘差平方和方程 v 解法 迭代法 0 ,0 t xt n i t i tit n i t xxQ 1 2 1 1 1 2 ) ( 對最小二乘估計(jì)的評價(jià)對最小二乘估計(jì)的評價(jià) v優(yōu)點(diǎn) 最小二乘估計(jì)充分應(yīng)用了每一個(gè)觀察值所提供的信 息，因而它的估計(jì)精度高 條件最小二乘估計(jì)方法使用率最高 v缺

45、點(diǎn) 需要假定總體分布 例例3.9續(xù)續(xù) v確定1950年2008年我國郵路及農(nóng)村投遞線路每 年新增里程數(shù)序列擬合模型的口徑。 擬合模型：AR(2) 估計(jì)方法：極大似然估計(jì) 模型口徑 12 8.93830.718530.5294 tttt xxx 2 ()19.61471 t Var 例例3.10續(xù)續(xù) v確定美國科羅拉多州某一加油站連續(xù)57天的 OVERSHORTS序列擬合模型的口徑 擬合模型：MA(1) 估計(jì)方法：條件最小二乘估計(jì) 模型口徑 tt Bx)82303. 01 (40351. 4 929.2178)( 2 Var 例例3.11續(xù)續(xù) v確定1880-1985全球氣表平均溫度改變值差分序

46、列 擬合模型的口徑 擬合模型：ARMA(1,1) 估計(jì)方法：條件最小二乘估計(jì) 模型口徑 11 9 . 0407. 0003. 0 tttt xx 016. 0)( 2 Var 模型的顯著性檢驗(yàn)?zāi)Ｐ偷娘@著性檢驗(yàn) v 目的 檢驗(yàn)?zāi)Ｐ偷挠行裕▽π畔⒌奶崛∈欠癯浞郑?v 檢驗(yàn)對象 殘差序列 v 判定原則 一個(gè)好的擬合模型應(yīng)該能夠提取觀察值序列中幾乎所有的 樣本相關(guān)信息，即殘差序列應(yīng)該為白噪聲序列 反之，如果殘差序列為非白噪聲序列，那就意味著殘差序 列中還殘留著相關(guān)信息未被提取，這就說明擬合模型不夠 有效 假設(shè)條件假設(shè)條件 v原假設(shè)：殘差序列為白噪聲序列 v備擇假設(shè)：殘差序列為非白噪聲序列 012 0

47、,1 m Hm： mkmH k ，：至少存在某個(gè)1, 0 1 檢驗(yàn)統(tǒng)計(jì)量檢驗(yàn)統(tǒng)計(jì)量 vLB統(tǒng)計(jì)量 2 2 1 (2)() ( ) m k k LBn nm nk 模型檢驗(yàn)?zāi)Ｐ蜋z驗(yàn) v模型的顯著性檢驗(yàn) 整個(gè)模型對信息的提取是否充分 v參數(shù)的顯著性檢驗(yàn) 模型結(jié)構(gòu)是否最簡 例例3.9續(xù)續(xù) v檢驗(yàn)1950年2008年我國郵路及農(nóng)村投遞線路每 年新增里程數(shù)序列擬合模型的顯著性 v殘差白噪聲序列檢驗(yàn)結(jié)果 (0.05) 參數(shù)顯著性檢驗(yàn)參數(shù)顯著性檢驗(yàn) v目的 檢驗(yàn)每一個(gè)未知參數(shù)是否顯著非零。刪除不顯著參 數(shù)使模型結(jié)構(gòu)最精簡 v假設(shè)條件 v檢驗(yàn)統(tǒng)計(jì)量 mjHH jj 10:0: 10 )( ) ( mnt Qa

48、 mnT jj jj 例例3.9續(xù)續(xù) v檢驗(yàn)1950年2008年我國郵路及農(nóng)村投遞線路每 年新增里程數(shù)序列擬合模型參數(shù)的顯著性 v參數(shù)檢驗(yàn)結(jié)果 1 (0.05) 2 例例3.10續(xù)續(xù):對對OVERSHORTS序列的擬合模型進(jìn)行檢驗(yàn)序列的擬合模型進(jìn)行檢驗(yàn) v 殘差白噪聲檢驗(yàn) v 參數(shù)顯著性檢驗(yàn) 1 例例3.11續(xù)續(xù):對對1880-19851880-1985全球氣表平均溫度改變值差分序列擬合模型進(jìn)行檢驗(yàn)全球氣表平均溫度改變值差分序列擬合模型進(jìn)行檢驗(yàn) v 殘差白噪聲檢驗(yàn) v 參數(shù)顯著性檢驗(yàn) 1 1 模型優(yōu)化模型優(yōu)化 v問題提出 當(dāng)一個(gè)擬合模型通過了檢驗(yàn)，說明在一定的置信水 平下，該模型能有效地?cái)M合觀

49、察值序列的波動，但 這種有效模型并不是唯一的。 v優(yōu)化的目的 選擇相對最優(yōu)模型 例例3.15:擬合某一化學(xué)序列擬合某一化學(xué)序列 序列自相關(guān)圖序列自相關(guān)圖 序列偏自相關(guān)圖序列偏自相關(guān)圖 擬合模型一擬合模型一 v根據(jù)自相關(guān)系數(shù)2階截尾，擬合MA(2)模型 v參數(shù)估計(jì) v模型檢驗(yàn) 模型顯著有效 三參數(shù)均顯著 tt BByield)31009. 032286. 01 (17301.51 2 擬合模型二擬合模型二 v 根據(jù)偏自相關(guān)系數(shù)1階截尾，擬合MA(1)模型 v 參數(shù)估計(jì) v 模型檢驗(yàn) 模型顯著有效 兩參數(shù)均顯著 B yield t t 42481. 01 26169.51 問題問題 v同一個(gè)序列可

50、以構(gòu)造兩個(gè)擬合模型，兩個(gè)模型都 顯著有效，那么到底該選擇哪個(gè)模型用于統(tǒng)計(jì)推 斷呢？ v解決辦法 確定適當(dāng)?shù)谋容^準(zhǔn)則，構(gòu)造適當(dāng)?shù)慕y(tǒng)計(jì)量，確定相 對最優(yōu) AIC準(zhǔn)則準(zhǔn)則 v最小信息量準(zhǔn)則（An Information Criterion） v指導(dǎo)思想 似然函數(shù)值越大越好 未知參數(shù)的個(gè)數(shù)越少越好 vAIC統(tǒng)計(jì)量 )(2)ln( 2 未知參數(shù)個(gè)數(shù) nAIC SBC準(zhǔn)則準(zhǔn)則 vAIC準(zhǔn)則的缺陷 在樣本容量趨于無窮大時(shí)，由AIC準(zhǔn)則選擇的模型 不收斂于真實(shí)模型，它通常比真實(shí)模型所含的未知 參數(shù)個(gè)數(shù)要多 vSBC統(tǒng)計(jì)量 )(ln()ln( 2 未知參數(shù)nnSBC 例例3.15續(xù)續(xù) v用AIC準(zhǔn)則和SBC準(zhǔn)則

51、評判例3.15中兩個(gè)擬合模 型的相對優(yōu)劣 v結(jié)果 AR(1)優(yōu)于MA(2) 本章結(jié)構(gòu)本章結(jié)構(gòu) 方法性工具方法性工具1. ARMA模型模型2. 平穩(wěn)序列建模平穩(wěn)序列建模3. 序列預(yù)測序列預(yù)測4. 序列預(yù)測序列預(yù)測 v線性預(yù)測函數(shù) v預(yù)測方差最小原則 1 0 titi i xC x ( ) ( )min( ) t l xtt Vare lVar e l 序列分解序列分解 111111 ( )( ) t lt lt lltltlt tt xGGGG e lx l 預(yù)測誤差預(yù)測誤差預(yù)測值預(yù)測值 )(),( ) ( ),( 1 1 leVarxxxVar lxxxxE tttlt ttlt 誤差分析誤差

52、分析 v估計(jì)誤差 v期望 v方差 1111 )( tlltltt GGle 1 0 22 )( l i it GleVar 0)(leE t AR(p)序列的預(yù)測序列的預(yù)測 v預(yù)測值 v預(yù)測方差 v95置信區(qū)間 )() 1() ( 1 plxlxlx tpt 22 1 2 1 )1 ()( lt GGleVar 1 22 2 11 1 2 ( )1 tl x lzGG 例例3.16 v已知某超市月銷售額近似服從AR(2)模型（單位： 萬元/每月） v今年第一季度該超市月銷售額（萬元）分別為： 101，96，97.2 v請確定該超市第二季度每月銷售額的95的置信 區(qū)間 12 100.60.3,(

53、0,36) ttttt xxxN 例例3.14解：預(yù)測值計(jì)算解：預(yù)測值計(jì)算 v四月份 v五月份 v六月份 12.973 . 06 . 010) 1 ( 233 xxx 432.973 . 0) 1 (6 . 010)2( 333 xxx 5952.97) 1 (3 . 0)2(6 . 010)3( 333 xxx 例例3.14解：預(yù)測方差的計(jì)算解：預(yù)測方差的計(jì)算 v GREEN函數(shù) v 方差 0 110 21120 1 0.6 0.360.30.66 G GG GGG 6416.64)()3( 96.48)()2( 36)1 ( 22 2 2 1 2 03 22 1 2 03 22 03 GGGeVar GGeVar GeVar 例例3.14解：置信區(qū)間解：置信區(qū)間 v公式 v估計(jì)結(jié)果 )(96. 1)(,)(96. 1)( 3333 leVarlxleVarlx 例例3.9續(xù)續(xù) v根據(jù)1950年2008年的觀察值序列預(yù)測2009- 2013年我國郵路及農(nóng)村投遞線路每年新增里程數(shù) MA(q)序列的預(yù)測序列的預(yù)測 v預(yù)測值 v預(yù)測方差 ql ql lx q li ilti t , , )( ql ql leVar q l t ,)1