五時間序列模型

1、5時間序列模型5.1時間序列數(shù)字化技術(shù)的應(yīng)用和發(fā)展使得隨機序列的分析變得日益廣泛和 重要，并由平穩(wěn)隨機過程在時間軸上的取樣引出平穩(wěn)離散隨機信號或時間序列的概念.對于這類隨機序列，主要采用相關(guān)函數(shù)和功率譜 進行分析.對于平穩(wěn)離散時間信號，還常用時間序列描述方法進行研 究，由此提出時間序列模型法.它是采用各種隨機差分方程表示時間 序列信號的模型.在許多情況下，一個平穩(wěn)離散隨機信號可以視為白 噪聲序列通過某一離散時間線性系統(tǒng)所產(chǎn)生的.在時間序列信號模型分析中，AR(自回歸)模型、MA(滑動平均) 模型和ARM(自回歸滑動平均)模型是三種最常見的標準線性模型， 它們均由白噪聲序列通過離散時間線性系統(tǒng)而

2、產(chǎn)生.而實際應(yīng)用中許多平穩(wěn)時間序列往往可由這些模型近似表示，使得有關(guān)的分析變得更為簡單，也為平穩(wěn)隨機序列的分析和產(chǎn)生提供了有效方法.另外，這些線性模型都具有連續(xù)功率譜形狀，在參數(shù)譜估計方面顯示出極大的 優(yōu)點.除非特別說明，本章只討論具有連續(xù)譜特性的平穩(wěn)時間序列.5.2自回歸(AR)模型設(shè)'(n)為具有零均值，方差為 二2的平穩(wěn)白噪聲序列，隨機序列 x(n)由如下隨機差分方程表示：px(n) _ 八 akx(n _ k) (n)k=i式中p為一正整數(shù),ak(k=0,1, ,p)為實常數(shù)，不失一般性，設(shè)ao =1， 并設(shè)ap =0.上式表示的信號稱為p階自回歸模型.顯然，x(n)是它的p個

3、過去值和白噪聲(n)的線性組合.用AR (p)表示上式的模型.對于上式，從統(tǒng)計觀點講，稱x(n)以隨機誤差(n)線性回歸于它的p個過去 值.為使分析方便，首先研究一階和二階 AR模型，然后根據(jù)p階AR模型的分析，研究AR模型的自相關(guān)函數(shù)及功率譜密度.1. 一階AR模型根據(jù)隨機序列的差分表達式，當(dāng)P=1時，可得一階AR模型x(n)二 ax(n1)亠八(n)式中a為不等于零的實常數(shù).上式為一階隨機差分方程.若設(shè)x(0)=0， 可得：2x(n) = (n) ax(n 1) = (n) a (n 1) a x(n_2)二二(n) a (n -1)an(1)容易得到一階矩Ex(n) =(1 aan4)E

4、p (n)_a E (n).E(n) na =1a =1如果E(n) -0，由上式可以看出，x(n)的均值有可能不滿足平穩(wěn)性， 即可能不滿足一階平穩(wěn).然而，如果系數(shù)|a <1，當(dāng)n較大時，則有1imEx( n)=廠£鞏 n)I a在此情況下，x(n)是一階漸進平穩(wěn)的.通常，Ep (n)=0，可得時間序列x(n)的自相關(guān)函數(shù)(二階矩)為:Rx(n,n m)二 Ex(n)x(n m)= E (n) a (n1廠an(1)同(n + m) +ao(n + m1) +an初七(1)2 mm，：2= ；na am：；2(n)U-a22n 二n,2n aa"a =1顯然，當(dāng)a=1

5、時，x(n)并不滿足自相關(guān)平穩(wěn)性，但是，當(dāng)a < 1并且n足夠大時，有l(wèi)im Rx(n,n m) = Rx(m)=n_對于實隨機序列，由于m對于R(m)對稱分布，有2 m -n aRx(m)n 21 -a對于a ：1，不難推得，當(dāng)a為正數(shù)時，Rx(m)恒為正，且呈指數(shù)衰減. 當(dāng)a為負數(shù)時，Rx(m)正負相間指數(shù)衰減.根據(jù)Rx(m)可得x( n)的方差為：2c2Rx (0)T1 -a說明平穩(wěn)隨機序列x(n)的方差二2比白噪聲方差二2大.最后討論AR(1)模型的功率譜.對Rx(m)式兩邊取z變換，可得其傳遞函數(shù)為：H(z)11 - azz - ax(n)的功率譜為4 2Zb 2Sx(z) =

6、H (z) Hd(z-a)(1-az)令zV,有Sx() 口1 a2 - 2a cos 2二 n- ,-_ - - :2.二階AR模型定義隨機序列x(n)的二階AR模型為:1 - ae j 'x(n) a1x(n-1) a2x(n-2) = (n)式中ai和a2均為實常數(shù)，a? =0.上式二階差分方程的特征多項式為:2zaiza2定義后移算子D為后移一步的運算，即Dx(n) = x(n -1)于是，二階AR模型成為：(1 a1D a2D2)x (n )= (n) = (1 - 乙。)(1 - z2D)x( n)(-a1 -4a2式中Z1和Z2為二階AR模型特征多項式的根，即Z1,2所以

7、，有特解為:/、(n)1l,Z|Z21 /、x(n)-(n)(1Z1D)(1Z2D)乙一Z2 (1 Z1D) (1Z2D)1F k卅k出 r 乂 L / Z1 -Z2 D (n)Z1 -Z2 _k=0:k 1 k 1八 Z1_Z2(n-k)心 Z - Z2根據(jù)模型差分方程，零輸入下得齊次方程x(n) ax(n1) a2x(n2) = 0其解為:x(n)二 Az： A2Z；式中A和A2是待定系數(shù)，由初始條件確定模型特解和上式之和即為模型的解：x（n） = A1z1n - A2z； ' 勺（n - k）7 zi - z2當(dāng)-1,2<1時，上式右邊齊次解隨n的增大而趨于零，而特解部分具

8、有 有限方差，在均方意義下收斂，隨n的增大而漸近收斂于特解公式的 平穩(wěn)結(jié)果.實際上，二階模型的平穩(wěn)條件與其系數(shù)ai和a2是有關(guān)的，這可通 過ai和a2平面表示.設(shè)zi,2 <1，并設(shè)Zi +Z2 = -ai和=a2，根據(jù)乙ci， 在其兩邊同乘（I-Z2），有zi z2 - ziz2 : I 或ai - a2 I其次，根據(jù)不等式z-I，兩邊同乘（i p），有zi z2 ziz -i或 a 一 a2 ：-1根據(jù)上式分析，得到以下三個條件：a2 : 1,a1 - a2 乜-1 以及 a -a2 ： 1這就是保證二階AR模型平穩(wěn)的條件，可用系數(shù)分布圖說明.圖中示出 了二階系數(shù)欠阻尼、過阻尼和臨界

9、阻尼三種情況的系數(shù)區(qū)域分布， 分 別對應(yīng)于以下三種情況：（1）欠阻尼：出現(xiàn)Zi和Z2 對共軛復(fù)根.（2）過阻尼：出現(xiàn)zi和Z2不同的實根.（3）臨界阻尼：出現(xiàn)zi和Z2相同的實根.a22.5a2=0.25*a1*a11.50.51欠阻尼臨界阻尼-2-1-0.50過阻尼"Xa1-1a2=-a1-1-1.5-2 11-3-2-1對于平穩(wěn)的情況，考察二階 AR模型的自相關(guān)函數(shù)，對模型方差方程兩邊同乘x(n m)并作集平均，可得: x(n) ajX(n -1) a2x(n - 2)x(n m)a1x(n m-1) a2x(nm-2)二 E，( n m)，(n)考慮到Eo( n+m)®

10、;( n) =時,.0,可得:Rx(0) a1Rx(1) a2Rx"：,Rx(m) ajRx (m-1) a2Rx(m-2) = 0, m = 0以及Rx(0) a1Rx(1) a2Rx(2)Rx(1) a1Rx(0) a2Rx(1)=0Rx(2) a“Rx (1) a2Rx(00由此解得:2Rx (0)二(1七2)62(1 - a2)(1a2)ai-aiRx(1)丸 Rx(0)1 + a2廣 2RJ2)=a? Rx(0)l(1+a2)丿最后，分析AR(2)模型的功率譜密度.容易知道，其傳遞函數(shù)為:H(z)11a1zJ a2z于是，x(n)的功率譜為:1 21a1za2z2z =ej

11、3. p階AR模型定義如下隨機差分方程為p階AR模型x(n) yx(n-1) 一一apx(n - p)二(n)式中ak(k=1,2, ,p)為實常數(shù)，且ap=0.對上式兩邊取z變換，可得：p、akX(z)z* =W(z), (a。=1)k=0于是，以上AP(p)模型的傳遞函數(shù)為：H(z)X(z)W(z)1p1 a akz"km根據(jù)它的特征多項式可解出p個H(z)的極點Z1,Z2,，Zp.于是，該模型H(z)二的傳遞函數(shù)可寫為:(1 _討)(1 _Z2ZJ)(1-ZpZ-1)所以，AR模型的傳遞函數(shù)只有極點，除原點外沒有任何零點，屬于 全極點模型，對應(yīng)于全極點濾波器，具有無限沖激響應(yīng)(

12、IIR).因此， 模型傳遞函數(shù)的性質(zhì)完全取決于 p個極點在z平面上的分布情況.可以證明，如果所有p個極點均滿足|召|(zhì) c1(i=1,2,，p)，那么，AR模型信 號滿足漸近平穩(wěn)性.條件|Zi ：1(i =1,2,p)意味著有界輸入通過線性系 統(tǒng)導(dǎo)致有界輸出，系統(tǒng)H(z)是穩(wěn)定的，這說明模型傳遞函數(shù)的穩(wěn)定性與模型的平穩(wěn)性是等價的.根據(jù)AR模型的傳遞函數(shù),p階AR模型的功率譜密度為:H3)2p1 akekk珀2-npn (e-Zk)i斗可見AR模型的功率譜由各模型系數(shù)a'k =1,2，,p)確定.最后討論AR(p)模型參數(shù)與相關(guān)函數(shù)的關(guān)系.根據(jù)自相關(guān)函數(shù)的定義，有Ex( n)x( n m)

13、 =Rx(m)p=Ex(n)-' akx(n m _ k) (n m)k#p-x' akRx(m-k) Ex(n) (n m)k =1由于aEx( n)co( n + m) = *0,于是，有:" p2一£ akRx(m _k)+6, m = 0Rx(m)二kp1- akRx(m-k),m = 0將上式分別以m =1,2,p代入，可得以下矩陣方程形式:-Rx(0)Rx(1)Rx(2)aRx(-1)Rx(0)Rx(1)a-Rx(-2)Rx(-1)Rx(0)aRx(-P)-Rx(_p + 1)Rx(p+2)1a1a200Rx(p)Rx(p-1)Rx(P_2)Rx

14、(0)_?p-0 一由于Rx(m)= Rx(_m)，可得_Rx(0)Rx(1)Rx(2)Rx(p) T_1-Rx(1)Rx(0)Rx(1)-Rx(P-1)a10Rx(2)Rx(1)aRx(0)aRx(P-2)ia2=03-Rx(P)Rx(p1)Rx(p2)Rx(0)_ap 一-0 一上式稱為尤里-沃克(Yule-Walker )方程.所以，如果選擇了 AR(p)模型，并可選定或根據(jù)觀測數(shù)據(jù)估計模型的自相關(guān)函數(shù)， 則可由尤里-沃克方程解出p個模型參數(shù)ak，由此確定該模型，估計模型的功率譜密度函數(shù).關(guān)于其他AR(p)參數(shù)譜估計法還有很多，請有興趣的同 學(xué)自行查閱相關(guān)文獻.5.3滑動平均(MA)模型

15、滑動平均模型(MA模型)是時間序列模型另一種主要形式，通 常用MA(q)記q階MA莫型.定義為：qx(n)八 bk (n - k)k=0式中bjk =1,2, ,q)為實常數(shù)，且bq =0 ,稱為MA(q)模型的參數(shù)，通常 有b。=1 , (n)仍為零均值、方差為匚2的白噪聲序列.由于q是有限的， 所以MA(q)模型也是平穩(wěn)的.1. 一階MA模型定義MA(1)模型為：x(n) = (n) b (n -1)容易求得Ex2(n)二 Rx(0) "2 =1 b2Rx(1) =bRx (m) = 0, m 1顯然，MA(1)模型是一階相關(guān)的，其相關(guān)系數(shù)在士 0.5之間取值.2. q階MA模型

16、對于MA(q)模型qx(n)八 ，(nk)k=1上式兩邊取z變換，可得該模型的傳遞函數(shù)為：H(z) -1 b1zJ b2zbqzT可知H(z)有q個零點k(k =1,2/ ,q)，于是H(z) =(1z，)(1 說')(V qz-1)這是一個全零點模型，具有有限沖激響應(yīng)(FIR).由MA(q)的定義式，可見x(n)是白噪聲序列(n)的當(dāng)前值和(q-1) 個過去值的線性組合，所以，當(dāng)x(n)中的n大于q時，其白噪聲序列的線性組合將全部為更新后的值，由此可以推斷，相隔長度大于q的x(n)其自相關(guān)函數(shù)為零，即x(k)與x(k q i)(i =1,2,3,)互不相關(guān).因此,MA(q)模型自相關(guān)

17、函數(shù)的相關(guān)長度為q .MA(q)的自相關(guān)函數(shù)為:qqRx(m)二 Ex(n)x(n m)二 E, bk (n-k) b(n m-k)7k£由于E (n)，(n m)0,于是有q2Rx(m) =；n' bkbk_m,0 遼 m m qk由此可得x(n)的方差為:q-X = Rx(0) = ； n 一 bkk -m所以，MA(q)模型的二階矩與階次和參數(shù)有關(guān).Rx(m)式子證明了 MA(q)模型自相關(guān)函數(shù)的相關(guān)長度為q ,當(dāng)各模型參數(shù)bk均為丄時，其相關(guān)函數(shù)具有如下簡單形式:q +1Rx(m)二c 2nq 1q+J根據(jù)MA(q)的全零點傳遞函數(shù)，模型的功率譜密度函數(shù)為:Sx(&#

18、39;)二二2q1 - bke”k =1也可用全零點譜形式表示:q2Sx®) "nD(Z-如)k#5.4自回歸滑動平均(ARMA模型如果用一個p階自回歸模型和一個q階滑動平均模型組成一個混 合模型，可得一個形如以下差分方程的模型：pqakX(n-k) 八 bk (n-k)k z0k z0式中ak(k =0,1,2- , p)和bk(k =0,1,2, ,q)均為實常數(shù)，且ak和bk不為零， 通常有ao二b。=1.如果q =0,上式退化為一個 AR(p)信號模型；如果 P = 0，則為一個MA(q)信號模型.上式定義的模型稱為自回歸滑動平 均模型，也稱ARM模型，記為ARMA(p,q).對上式兩邊取z變換，可得ARMAI型的傳遞函數(shù)為：qH (z) = A(z) _ kz = (Z '1)(Z 2)(Z q)(Z八葩：a ”Z J(Z 2) (Z p) akZ