ARMA Process（自己回帰移動平均過程）

このポストでは，時系列データに対する基本的なモデル，ARMA過程についてまとめます．画像はAmazon.comの株価推移です．

MA(q)過程: Moving average process
AR(p)過程: Autoregressive process
ARMA(p,q)過程: Autoregressive moving average process
参考文献

作者: 沖本竜義
出版社/メーカー: 朝倉書店
発売日: 2010/02/01
メディア: 単行本
購入: 4人クリック: 101回
この商品を含むブログ (6件) を見る

MA(q)過程: Moving average process

モデル式：MA(q)

$y_t = \mu + \epsilon_t + (\theta_1, \cdots \theta_q) \left( \begin{array}{c} \epsilon_{t-1} \\ \vdots \\ \epsilon_{t-q} \end{array}\right), ~~~ \epsilon_{t} \sim W.N.(\sigma^2)$

統計量

$\left\{ \begin{array}{c} \begin{align} E[y_t] &= \mu \\ V[y_t] &= \gamma_0 = (1 + {\theta_1}^{2} + \cdots + {\theta_q}^{2}) \cdot {\sigma}^{2} \end{align} \end{array} \right.$

$\begin{align} Cov[y_t,y_{t-k}] &= \gamma_k \\ &= \left\{ \begin{array}{c}(\theta_k + \theta_1\theta_{k+1} + \cdots + \theta_{q-k}\theta_{k}) \cdot {\sigma}^{2} ~~~ (1 \leq k \leq q) \\ 0 \hspace{12em} (k \geq q+1) \end{array} \right. \\ \\ \rho_k &= \frac{\gamma_k}{\gamma_0} \\ &= \left\{ \begin{array}{c} {\large \frac{\theta_k + \theta_1\theta_{k+1} + \cdots + \theta_{q-k}\theta_{k}}{1 + {\theta_1}^2 + \cdots + {\theta_q}^2} } ~~~ &(1 \leq k \leq q) \\ 0 \hspace{7em} &(k \geq q+1) \end{array} \right. \end{align}$

定常性

MA(q)モデルでは統計量（ $E, V, Cov$ ）は，パラメータ $\theta_1, \cdots, \theta_q$ の値に依らず，常に定常となる．

AR(p)過程: Autoregressive process

モデル：AR(p)

$y_t = c + \epsilon_t + \left( \phi_1, \cdots, \phi_p \right) \left( \begin{array}{c} y_{t-1} \\ \vdots \\ y_{t-p} \end{array} \right) , ~~~ \epsilon_{t} \sim W.N.(\sigma^2)$

統計量

$\\ \begin{array}{c} \begin{align} E[y_t] &= \mu \\ &= c + \phi_1 E[y_{t-1}] + \cdots + \phi_p E[y_{t-p}] \\ &= \frac{c}{1 - \phi_1 - \cdots - \phi_p} \\ \\ V[y_t] &= \gamma_0 \\ &= {\sigma}^{2} + \phi_1^2 V[y_{t-1}] + \cdots + \phi_p^2 V[y_{t-p}] \\ &= \frac{\sigma^2}{(1 - \phi_1^2\rho_1 - \cdots - \phi_p^2 \rho_p)} \end{align} \end{array}$

$\begin{align} \\ Cov[y_t,y_{t-k}] &= \gamma_k = \phi_1 \gamma_{k-1} + \cdots + \phi_p \gamma_{k-p} \hspace{2em} (1 \leq k) \\ \\ \rho_k &= \frac{\gamma_k}{\gamma_0} = \phi_1 \rho_{k-1} + \cdots + \phi_p \rho_{k-p} \hspace{2em} (1 \leq k) \\ \\ \rho_1 &= \frac{\gamma_1}{\gamma_0} = \phi_1 \end{align}$

定常性

AR(p)モデルでは統計量（ $E,V,Cov$ ）は，パラメータ $\phi_1, \cdots, \phi_q$ の値に対して，特性方程式： $$ 1 - \phi_1 {z}^1 - \cdots - \phi_p {z}^{p} = 0 $$ の複素数解 $z$ の絶対値が1よりも大きい時，定常となる．

ARMA(p,q)過程: Autoregressive moving average process

モデル：ARMA(p,q)

$y_t = c + \left( \phi_1, \cdots, \phi_p \right) \left( \begin{array}{c} y_{t-1} \\ \vdots \\ y_{t-p} \end{array} \right) + (\theta_1, \cdots \theta_q) \left( \begin{array}{c} \epsilon_{t-1} \\ \vdots \\ \epsilon_{t-q} \end{array}\right), ~~~ \epsilon_t \sim W.N.(\sigma^2)$

統計量

$\begin{array}{c} \begin{align} E[y_t] &= \mu \\ &= c + \phi_1 E[y_{t-1}] + \cdots + \phi_p E[y_{t-p}] \\ &= \frac{c}{1 - \phi_1 - \cdots - \phi_p} \\ \\ V[y_t] &= \gamma_0 \\ &= {\sigma}^{2} + \phi_1^2 V[y_{t-1}] + \cdots + \phi_p^2 V[y_{t-p}] \\ &= \frac{{\sigma}^2}{(1 - \phi_1^2 \rho_1 - \cdots - \phi_p^2 \rho_p)} \end{align} \end{array}$ $\begin{align} \\ Cov[y_t,y_{t-k}] &= \gamma_k = \phi_1 \gamma_{k-1} + \cdots + \phi_p \gamma_{k-p} \hspace{2em} (q+1 \leq k) \\ \\ \rho_k &= \frac{\gamma_k}{\gamma_0} = \phi_1 \rho_{k-1} + \cdots + \phi_p \rho_{k-p} \hspace{2em} (q+1 \leq k) \end{align}$