Terminy błędów modelu średniej ruchomej

17

To jest podstawowe pytanie dotyczące modeli Box-Jenkins MA. Jak rozumiem, model MA jest zasadniczo liniową regresję szeregów czasowych wartości $Y$ przeciwko poprzednich kadencjach błędach $e_t,..., e_{t-n}$ . Oznacza to, że obserwacja $Y$ najpierw regresji na jej poprzednich wartości $Y_{t-1}, ..., Y_{t-n}$ , a następnie jedno lub więcej $Y - \hat{Y}$ wartości są wykorzystywane jako źródła błędu dla modelu MA.

Ale jak obliczane są terminy błędów w modelu ARIMA (0, 0, 2)? Jeśli model MA jest używany bez części autoregresyjnej, a zatem nie ma wartości szacunkowej, to w jaki sposób mogę uzyskać warunek błędu?

— Robert Kubrick
źródło

1

Nie, myślę, że mylisz definicję modelu MA (n), w którym regresja jest tylko w kategoriach

e_{t - i}

$e_{t-i}$ , z jej oszacowaniem, gdzie

e_{t - i}

$e_{t-i}$ są szacowane na podstawie danych .

— Xi'an,

1

Główny problem w twoim pytaniu polega na tym, że mówisz, że model MA jest w zasadzie regresją liniową. To po prostu nieprawda, ponieważ nie przestrzegamy terminów błędów.

— mpiktas,

Myślę, że termin błąd jest rzeczywiście

, gdzie

jest

lub po prostu

. Dlatego oszacowanie parametru modelu MA jest uzyskiwane z powtarzającego się wzorca w funkcji częściowej autokorelacji

, czyli zachowania reszt. Oszacowanie parametru AR opiera się na powtarzającym się wzorze acf (Y).

Y_{t} - \hat{Y_{t}}

$Y_t - \hat{Y_t}$

\hat{Y}

$\hat{Y}$

E (Y | Y_{t, . . ., t - n})

$E(Y|Y_{t,...,t-n})$

Y_{t} - Y_{t - 1}

$Y_t - Y_{t-1}$

Y

$Y$

— Robert Kubrick,

20

Oszacowanie modelu MA:

Załóżmy szereg z 100 punktami czasowymi i powiedzmy, że charakteryzuje go model MA (1) bez przecięcia. Następnie model podaje

y_{t} = ε_{t} - θ ε_{t - 1}, t = 1, 2, \dots, 100 (1)

$y_t=\varepsilon_t-\theta\varepsilon_{t-1},\quad t=1,2,\cdots,100\quad (1)$

Termin błędu tutaj nie jest przestrzegany. Aby to uzyskać, Box i in. Analiza szeregów czasowych: Prognozowanie i kontrola (wydanie trzecie) , strona 228 , sugeruje, że składnik błędu jest obliczany rekurencyjnie przez,

ε_{t} = y_{t} + θ ε_{t - 1}

$\varepsilon_t=y_t+\theta\varepsilon_{t-1}$

Tak więc termin błędu dla to: Teraz nie możemy tego obliczyć bez znajomości wartości . Aby to osiągnąć, musimy obliczyć wstępną lub wstępną ocenę modelu, patrz Box i in. wspomnianej książki, Rozdział 6.3.2 strona 202 stwierdza, że: $t=1$

ε_{1} = y_{1} + θ ε_{0}

$\varepsilon_{1}=y_{1}+\theta\varepsilon_{0}$

θ

$\theta$

Wykazano, że pierwsze autokorelacje procesu MA ( ) są niezerowe i można je zapisać w kategoriach parametrów modelu jako $q$ $q$ Powyższe wyrażenie dla w kategoriach , dostarcza równań w niewiadomych. Wstępne szacunki S mogą być otrzymywane przez zastąpienie oszacowania o w powyższym równaniu
$ρ_{k} = \frac{- θ_{k} + θ_{1} θ_{k + 1} + θ_{2} θ_{k + 2} + \dots + θ_{q - k} θ_{q}}{1 + θ_{1}^{2} + θ_{2}^{2} + \dots + θ_{q}^{2}} k = 1, 2, \dots, q$ $\rho_k=\displaystyle\frac{-\theta_{k}+\theta_1\theta_{k+1}+\theta_2\theta_{k+2}+\cdots+\theta_{q-k}\theta_q}{1+\theta_1^2+\theta_2^2+\cdots+\theta_q^2}\quad k=1,2,\cdots, q$ $\rho_1,\rho_2\cdots,\rho_q$ $\theta_1,\theta_2,\cdots,\theta_q$ $q$ $q$ $\theta$ $r_k$ $\rho_k$

Zauważ, że jest szacowana autokorelacji. Więcej informacji znajduje się w rozdziale 6.3 - Wstępne oszacowania parametrów , proszę przeczytać o tym. Teraz, zakładając, że otrzymujemy wstępne oszacowanie . Następnie Kolejnym problemem jest to, że nie mamy wartości dla ponieważ zaczyna się od 1, więc nie możemy obliczyć . Na szczęście istnieją dwie metody uzyskania dwóch, $r_k$ $\theta=0.5$

ε_{1} = y_{1} + 0.5 ε_{0}

$\varepsilon_{1}=y_{1}+0.5\varepsilon_{0}$

ε_{0}

$\varepsilon_0$

t

$t$

ε_{1}

$\varepsilon_1$

Prawdopodobieństwo warunkowe
Bezwarunkowe prawdopodobieństwo

Według Box i in. W sekcji 7.1.3 na stronie 227 wartości można podstawić na zero jako przybliżenie, jeśli jest umiarkowane lub duże, ta metoda jest prawdopodobieństwem warunkowym. W przeciwnym razie stosuje się Bezwarunkowe Prawdopodobieństwo, w którym wartość jest uzyskiwana przez prognozowanie wsteczne, Box i in. polecam tę metodę. Przeczytaj więcej na temat prognozowania wstecznego w rozdziale 7.1.4 na stronie 231 . $\varepsilon_0$ $n$ $\varepsilon_0$

Po uzyskaniu wstępnych oszacowań i wartości , w końcu możemy przystąpić do rekurencyjnego obliczenia składnika błędu. Ostatnim etapem jest oszacowanie parametru modelu , pamiętaj, że nie jest to już wstępna ocena. $\varepsilon_0$ $(1)$

Przy szacowaniu parametru wykorzystuję procedurę estymacji nieliniowej, szczególnie algorytm Levenberga-Marquardta, ponieważ modele MA są nieliniowe na jego parametrze. $\theta$

Ogólnie rzecz biorąc, zdecydowanie polecam przeczytanie Box i in. Analiza szeregów czasowych: prognozowanie i kontrola (wydanie trzecie) .

— Al-Ahmadgaid Asaad
źródło

Czy może Pan wyjaśnić, co jest

?

r_{k}

$r_k$

— Piyush Divyanakar

4

Model Gaussa MA (q) jest zdefiniowany (nie tylko przez Boxa i Jenkinsa!) Jako więc model MA (q) jest „czystym” modelem błędu, a stopień określa, jak daleko wstecz korelacja sięga.

Y_{t} = - \sum_{i = 1}^{q} ϑ_{i} e_{t - i} + σ e_{t}, e_{t} \overset{iid}{\sim} N (0, 1)

$Y_t = -\sum_{i=1}^q \vartheta_i e_{t-i} + \sigma e_t,\quad e_t\stackrel{\text{iid}}{\sim} \mathcal{N}(0,1)$

q

$q$

— Xi'an
źródło

1

e_{t}

$e_t$

e_{t}

$e_t$

q

$q$

1

Dlaczego w twojej formule jest minus? Zwykle minus dotyczy modeli AR. Matematycznie to nie problem, jestem po prostu ciekawy, ponieważ nigdy nie widziałem minusów w modelach MA.

— mpiktas,

3

@RobertKubrick, czy znasz twierdzenie Wolda o rozkładzie ? Każdy stacjonarny proces ma odpowiadający mu proces innowacyjny, czyli z którego miejsca

e_{t}

$e_t$ come.

— mpiktas

1

@mpiktas Thanks, that gives some background on the error term, but I am still not clear on where the innovation process comes from, for an innovation to exist there's got to be a forecast somewhere (en.wikipedia.org/wiki/Innovation_(signal_processing)). Is the optimal

Y

$Y$ forecast simply

E (Y)

$E(Y)$ , that is the mean of the series?

— Robert Kubrick

1

You say "the observation $Y$ is first regressed against its previous values $Y_{t−1},...,Y_{t−n}$ and then one or more $Y−\hat{Y}$ values are used as the error terms for the MA model." What I say is that $Y$ is regressed against two predictor series $e_{t-1}$ and $e_{t−2}$ yielding an error process $e_t$ which will be uncorrelated for all i=3,4,,,,t .We then have two regression coefficients: $\theta_1$ representing the impact of $e_{t-1}$ and $\theta_2$ representing the impact of $e_{t-2}$ . Thus $e_t$ is a white noise random series containing n-2 values. Since we have n-2 estimable relationships we start with the assumption that e1 and e2 are equal to 0.0 . Now for any pair of $\theta_1$ and $\theta_2$ we can estimate the t-2 residual values. The combination that yields the smallest error sum of squares would then be the best estimates of $\theta_1$ and $\theta_2$ .

— IrishStat
źródło

What are the 2 other predictor series? I am asking because when I look at the literature I have it's never clearly specified. Are these 2 other series unrelated to

Y

$Y$ ? I had the impression that all ARIMA formulation is limited to the

Y

$Y$ series.

— Robert Kubrick

1

The 2 predictors are the lags of the error terms. Since these are not known a priori since we do not know the error terms before we begin is why this has to be treated by non-linear estimation.The confusion you are having is that a model that is finite in the past ( i.e. an AR MODEL ) is potentially infinite in the errors AND a model that is finite in the errors ( i.e. an MA MODEL) is potentially infinite in the past of Y.The reason one selects an AR MODEL versus an MA MODEL is for parsimony. Sometimes we construct an ARMA MODEL which blends both the history of Y and the history of the errors.

— IrishStat

1

As I commented in the other answer, what I am still missing is what's the optimal forecast for

Y

$Y$ , which is used to calculate the innovation

e_{t - n}

$e_{t-n}$ .

— Robert Kubrick

1

See my post here for an explanation of how to understand the disturbance terms in a MA series.

You need different estimation techniques to estimate them. This is because you cannot first get the residuals of a linear regression and then include the lagged residual values as explanatory variables because the MA process uses the residuals of the current regression. In your example you are making two regression equations and using residuals from one into the other. This is not what an MA process is. It cannot be estimated with OLS.

— JoeDanger
źródło