Reprezentacja ARMA w przestrzeni stanu (p, q) z Hamiltona

$r = \max(p,q+1)$

$$\begin{aligned} y_t -\mu &= \phi_1(y_{t-1} -\mu) + \phi_2(y_{t-2} -\mu) + ... + \phi_3(y_{t-3} -\mu) \\ &+ \epsilon_t + \theta_1\epsilon_{t-1} + ... + \theta_{r-1}\epsilon_{t-r+1}. \end{aligned}$$

$$\xi_{t+1} = \begin{bmatrix} \phi_1 & \phi_2 & \dots & \phi_{r-1} & \phi_r \\ 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \dots & 0 & 0 \\ 0 & 0 & \dots &1 &0 \end{bmatrix} \xi_t + \begin{bmatrix} \epsilon_{t+1} \\ 0\\\vdots \\ 0 \end{bmatrix}$$

oraz równanie obserwacyjne jako:

$$y_t = \mu + \begin{bmatrix} 1 & \theta_1 & \theta_2 & \dots & \theta_{r-1} \\ \end{bmatrix} \xi_t.$$

Nie rozumiem, co jest w tym przypadku . Ponieważ w jego reprezentacji AR (p) jest to aw jego reprezentacji MA (1) jest to .$\xi_t$$\begin{bmatrix} y_{t} - \mu \\ y_{t-1} - \mu\\\vdots \\ y_{t-p+1} - \mu \end{bmatrix}$$\begin{bmatrix} \epsilon_{t} \\ \epsilon_{t-1} \end{bmatrix}$

Czy ktoś mógłby mi to wyjaśnić nieco lepiej?

Hamilton pokazuje, że jest to poprawne przedstawienie w książce, ale takie podejście może wydawać się nieco sprzeczne z intuicją. Pozwolę sobie zatem najpierw udzielić odpowiedzi na wysokim poziomie, która motywuje jego wybór modelowania, a następnie rozwinąć nieco jego pochodzenie.

Motywacja :

Jak powinno stać się jasne po przeczytaniu rozdziału 13, istnieje wiele sposobów napisania modelu dynamicznego w postaci przestrzeni stanów. Powinniśmy zatem zapytać, dlaczego Hamilton wybrał właśnie tę reprezentację. Powodem jest to, że ta reprezentacja utrzymuje niską wymiarowość wektora stanu. Intuicyjnie pomyślałbyś (a przynajmniej ja), że wektor stanu ARMA ( , ) musi mieć co najmniej wymiar . W końcu, po obserwacji powiedzmy , nie możemy wywnioskować wartości . Pokazuje jednak, że możemy sprytnie zdefiniować reprezentację przestrzeni stanu, pozostawiając wektor stanu wymiaru co najwyżej$p$$q$$p+q$$y_{t-1}$$\epsilon_{t-1}$$r = \max\{p, q + 1 \}$. Utrzymanie niskiego wymiaru stanu może być ważne dla implementacji obliczeniowej. Okazuje się, że jego reprezentacja w przestrzeni stanów oferuje również niezłą interpretację procesu ARMA: stan nieobserwowany to AR ( ), podczas gdy część MA ( ) powstaje z powodu błędu pomiaru.$p$$q$

Pochodzenie :

Teraz do wyprowadzenia. Po pierwsze, za pomocą notacji operatora opóźnienia ARMA (p, q) jest zdefiniowana jako: gdzie pozwalamy dla , i dla i pomijamy ponieważ jest co najmniej . Musimy więc tylko wykazać, że jego równania stanu i obserwacji implikują powyższe równanie. Niech wektorem stanu będzie Teraz spójrz na równanie stanu. Możesz sprawdzić, że równania do

$$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) =(1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_t$$ $\phi_j = 0$$j>p$$\theta_j = 0$$j>q$$\theta_r$$r$$q+1$ $$\mathbf{\xi}_t = \{\xi_{1,t}, \xi_{2,t},\ldots,\xi_{r,t}\}^\top$$ $2$$r$po prostu przenieś wpisy do jeden okres do przodu i odrzuć w wektorze stanu w . Pierwsze równanie definiujące jest zatem odpowiednie. Zapisywanie: Ponieważ drugi element jest pierwszym elementem a trzecim elementem jest pierwszy element$\xi_{i,t}$$\xi_{i-1,t+1}$$\xi_{r,t}$$t+1$$\xi_{i,t+1}$ $$\xi_{1,t+1} = \phi_1 \xi_{1,t} + \phi_2 \xi_{2,t} + \ldots + \phi_r \xi_{r,t} + \epsilon_{t+1}$$ $\mathbf{\xi_{t}}$$\mathbf{\xi_{t-1}}$$\mathbf{\xi_{t}}$$\mathbf{\xi_{t-2}}$i tak dalej, możemy to przepisać za pomocą notacji operatora opóźnienia i przesunięcia wielomianu opóźnienia na lewą stronę (równanie 13.1.24 w H.): Tak więc stan ukryty jest zgodny z procesem autoregresji. Podobnie równanie obserwacyjne to lub Jak dotąd nie wygląda to jak ARiMR, ale teraz nadchodzi fajna część: pomnóż ostatnie równanie przez : $$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t+1} = \epsilon_{t+1}$$ $$y_t = \mu + \xi_{1,t} + \theta_1\xi_{2,t} + \ldots + \theta_{r-1}\xi_{r-1,t}$$ $$y_t - \mu = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\xi_{1,t}$$ $(1-\phi_1L - \ldots - \phi_rL^r)$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})(1-\phi_1L - \ldots - \phi_rL^r)y_t$$ Ale z równania stanu (opóźnionego o jeden okres) mamy ! Tak więc powyższe jest równoważne z co dokładnie musieliśmy pokazać! Tak więc system obserwacji stanu poprawnie reprezentuje ARMA (p, q). Tak naprawdę parafrazowałem Hamiltona, ale mam nadzieję, że i tak się przyda.$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t} = \epsilon_{t}$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_{t}$$

To jest to samo co powyżej, ale pomyślałem, że udzielę krótszej, bardziej zwięzłej odpowiedzi. Ponownie jest to reprezentacja Hamiltona dla przyczynowego procesu ARMA ( , ), gdzie . Ta liczba będzie wymiarem wektora stanu i jest potrzebna do ustalenia liczby wierszy stan dopasowuje się do liczby kolumn macierzy obserwacji. Oznacza to, że musimy również ustawić współczynniki na zero, gdy indeks jest zbyt duży.$p$$q$$r=\max(p,q+1)$$r$$(\xi_t, \xi_{t-1},\ldots, \xi_{t-r+1})'$

1. Równanie obserwacyjne

$$\begin{align*} &\phi(B)(y_t - \mu) = \theta(B)\epsilon_t \\ \iff &(y_t - \mu) = \phi^{-1}(B)\theta(B)\epsilon_t \tag{causality}\\ \iff &y_t = \mu + \phi^{-1}(B)\theta(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\phi^{-1}(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\xi_t \tag{letting $\xi_t = \phi^{-1}(B)\epsilon_t$}\\ \iff &y_t = \mu + \left[\begin{array}{ccccc}1 & \theta_1 & \theta_2 & \ldots & \theta_{r-1} \end{array}\right] \underbrace{\left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \vdots \\ \xi_{t-r+1} \end{array}\right]}_{\text{the state vector}} + 0\tag{this is where we need $r$}. \end{align*}$$

2. Równanie stanu

$$\begin{align*} &\xi_t = \phi^{-1}(B)\epsilon_t \\ \iff &\phi(B)\xi_t = \epsilon_t \\ \iff &(1 - \phi_1 B - \cdots - \phi_rB^r) \xi_t = \epsilon_t \\ \iff &\xi_t = \phi_1 \xi_{t-1} + \cdots + \phi_r \xi_{t-r} + \epsilon_t \\ \iff & \left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r+1} \end{array}\right] = \left[ \begin{array}{ccccc} \phi_1 & \phi_2 & \phi_3 & \cdots & \phi_r \\ 1 & 0 & 0 & \cdots & 0 \\ 0 & 1 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \cdots & 0 \\ 0 & 0 &\cdots & 1 & 0 \end{array}\right] \left[ \begin{array}{c} \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r} \end{array}\right] + \left[ \begin{array}{c} \epsilon_t \\ 0 \\ \vdots \\ 0 \end{array}\right]. \end{align*}$$