Jaka jest różnica między modelem deterministycznym a stochastycznym?

Prosty model liniowy:

$x=\alpha t + \epsilon_t$ gdzie ~ iid $\epsilon_t$ $N(0,\sigma^2)$

z i $E(x) = \alpha t$ $Var(x)=\sigma^2$

AR (1):

$X_t =\alpha X_{t-1} + \epsilon_t$ gdzie ~ iid $\epsilon_t$ $N(0,\sigma^2)$

z i $E(x) = \alpha t$ $Var(x)=t\sigma^2$

Tak więc prosty model liniowy jest uważany za model deterministyczny, podczas gdy model AR (1) jest uważany za model stocahstic.

Według filmu Youtube autorstwa Ben Lambert - Deterministic vs. Stochastic , powodem AR (1), który należy nazwać modelem stochastycznym, jest to, że jego wariancja rośnie z czasem. Czy zatem cechą niestałej wariancji jest kryterium określania stochastycznego czy deterministycznego?

Nie sądzę też, aby prosty model liniowy był całkowicie deterministyczny, ponieważ mamy do niego pojęcie . Dlatego zawsze mamy przypadkowość w . Więc w jakim stopniu możemy powiedzieć, że model jest deterministyczny lub stochastyczny? $\epsilon_t$ $x$

— Ken T.
źródło

Każdy model z terminem błędu jest stochastyczny. Nie ma to nic wspólnego z wariancją zmieniającą się z czasem.

— Michael R. Chernick

@MichaelChernick Nie rozumiem. Dlaczego więc ludzie mówią, że prosta regresja liniowa jest modelem deterministycznym?

— Ken T

Czy możesz podać link, aby pokazać, gdzie to jest powiedziane i dlaczego.

— Michael R. Chernick

To było z moich notatek z analizy szeregów czasowych sprzed kilku lat. Może to źle

— Ken T

Odpowiedzi:

Film opowiada o trendach deterministycznych vs. stochastycznych , a nie modelach . Najważniejsze jest bardzo ważne. Oba modele są stochastyczne, jednak w modelu 1 trend jest deterministyczny.

Model 2 nie ma trendu. Twój tekst pytania jest nieprawidłowy.

Model 2 w twoim pytaniu to AR (1) bez stałej, podczas gdy w filmie model jest chodzeniem losowym (ruch Browna): Ten model rzeczywiście ma tendencję stochastyczną. To stochastyczny bo to tylko średnia. Każda realizacja ruchu Browna będzie różnić się od ze względu na losowy termin , który jest łatwy do zauważenia przez różnicowanie:

x_{t} = α + x_{t - 1} + e_{t}

$x_t=\alpha+x_{t-1}+e_t$

α t

$\alpha t$

α t

$\alpha t$

e_{t}

$e_t$

Δ x_{t} = x_{t} - x_{t - 1} = α + e_{t}

$\Delta x_t=x_t-x_{t-1}=\alpha+e_t$

x_{t} = x_{0} + \sum_{t = 1}^{t} Δ x_{t} = x_{0} + α t + \sum_{t = 1}^{t} e_{t}

$x_t=x_0+\sum_{t=1}^t\Delta x_t=x_0+\alpha t +\sum_{t=1}^t e_t$

— Aksakal
źródło

+1. Aby jednak być całkowicie jasnym i dokładnym, warto zauważyć, że odchylenie od

wynika z losowego wyrażenia

, a nie tylko

α t

$\alpha t$

e_{1} + e_{2} + \dots + e_{t}

$e_1+e_2+\dots +e_t$

e_{t}

$e_t$

— whuber

Jak wspomniał Aksakal w swojej odpowiedzi, film Ken T linked opisuje właściwości trendów , a nie modeli bezpośrednio, przypuszczalnie w ramach nauczania o pokrewnym temacie stacjonarności trendów i różnic w ekonometrii. Ponieważ w pytaniu pytałeś o modele, tutaj jest to w kontekście modeli :

Model lub proces jest stochastyczny, jeśli ma losowość. Na przykład, jeśli podano te same dane wejściowe (zmienne niezależne, wagi / parametry, hiperparametry itp.), Model może dawać różne wyniki. W modelach deterministycznych dane wyjściowe są w pełni określone przez dane wejściowe do modelu (zmienne niezależne, wagi / parametry, hiperparametry itp.), Tak że przy tych samych danych wejściowych do modelu dane wyjściowe są identyczne. Pochodzenie terminu „stochastyczny” pochodzi od procesów stochastycznych . Zasadniczo, jeśli model ma zmienną losową, jest on stochastyczny. Modele stochastyczne mogą być nawet prostymi niezależnymi zmiennymi losowymi.

Rozpakujmy trochę więcej terminologii, która pomoże ci zrozumieć literaturę dotyczącą modeli statystycznych (deterministycznych, stochastycznych lub w inny sposób ...):

$AR(1)$ $t-1$ $\mu_{\epsilon_t}=0$ ) itp. Przyjmujemy te założenia, aby uczynić model liniowy użytecznym do oszacowania zmiennych zależnych przez zminimalizowanie pewnej normy tego terminu błędu. Te założenia pozwalają nam uzyskać użyteczne właściwości estymatorów i udowodnić, że niektóre estymatory są najlepsze w tych założeniach; na przykład, że estymator OLS jest NIEBIESKI .

Prostszym przykładem modelu stochastycznego jest rzutowanie uczciwej monety (główki lub reszki), którą można modelować stochastycznie jako równomiernie rozłożoną losową zmienną binarną lub proces Bernoulliego . Możesz również rozważyć rzut monetą jako układ fizyczny i opracować model deterministyczny (w wyidealizowanym otoczeniu), jeśli weźmiesz pod uwagę kształt monety, kąt i siłę uderzenia, odległość od powierzchni itp. Jeśli drugi (fizyczny) model rzutu monetą nie ma w nim żadnych losowych zmiennych (np. nie uwzględnia błędu pomiaru żadnego z danych wejściowych do modelu), to jest deterministyczny.

$X_t$ $AR(1)$ $\epsilon_t$ $y_t = ax_t+\epsilon_t$ $t$ $Var[X_t]$ $t$ $Var[X_t]$

Ponadto czasami zachodzi zamieszanie między stacjonarnymi procesami stochastycznymi a niestacjonarnymi procesami stochastycznymi. Stacjonarność oznacza, że statystyki takie jak średnia lub wariancja nie zmieniają się w czasie w modelu. Oba są nadal uważane za modele / procesy stochastyczne, o ile występuje przypadkowość. Jak wspomina w odpowiedzi Maroon, Matthew Gunn, rozkład Wolda stwierdza, że każdy stacjonarny proces stochastyczny można zapisać jako sumę procesu deterministycznego i stochastycznego.

— ja robię
źródło

Świetna odpowiedź! Pytanie: dlaczego piszesz „… jeśli jego wariancja zmienia się w stosunku do jakiegoś parametru…”, czy nie powinno to być zmianami w stosunku do jakiejś zmiennej (lub funkcji zmiennej)?

— Alexis,

@Alexis Odniosłem się do czasu jako parametru modelu. Masz rację, ten język jest nieprecyzyjny. Naprawiony. Dziękuję Ci. :-)

— ido

Jak zmienia się wariancja AR (1)?

— Aksakal

V a r [ε_{t}]

$Var[\varepsilon_t]$

σ^{2}

$\sigma^2$

V a r [X_{t}] = t σ^{2}

$Var[X_t] = t\sigma^2$

X_{t} = α + X_{t - 1} + ε_{t}

$X_t = \alpha + X_{t-1} + \varepsilon_t$

ε_{t} \sim N (0, σ^{2})

$\varepsilon_t \sim N(0, \sigma^2)$

A R (1)

$AR(1)$ odnosi się do modelu opisanego jako taki przez Kena T.)

— ido

V a r [X_{t}] = V a r [X_{t - 1}] + V a r [ε_{t}] = \sum_{i = 1}^{t} V a r [ε_{i}] = t σ^{2}

$Var[X_t] = Var[X_{t-1}] + Var[\varepsilon_t] = \sum_{i=1}^{t} Var[\varepsilon_i] = t\sigma^2$

V a r [ε_{i}] = σ^{2}

$Var[\varepsilon_i] = \sigma^2$

ε_{t}

$\varepsilon_t$

ε_{t}

$\varepsilon_t$

C o v [X_{t}, X_{t - 1}] = 0

$Cov[X_t, X_{t-1}] = 0$

Niektóre nieformalne definicje

- $y(t) = 2t$
- $y(t) = e^t$
$\{Y_t\}$ $\Omega$ $Y(t,\omega)$ $t$ $\omega$ $\Omega$
- $y_t = \epsilon_t$ $\epsilon_t \sim \mathcal{N}(0, 1)$
- $y_t = .7 y_{t-1} + \epsilon_t$
$\omega$ $\Omega$ $\omega \in \Omega$ $Y_t(\omega)$

Niektóre komentarze...

... powodem, dla którego AR (1) można nazwać modelem stochastycznym, jest fakt, że jego wariancja rośnie z czasem.

$t$

$\epsilon_t$

$x_t$ $x_t = \alpha t + \epsilon_t$ $\{\epsilon_t\}$ $\{x_t\}$

$y_t = \alpha t$ $\{x_t\}$ $\alpha t$ $\epsilon_t$

Prowadzi to do twierdzenia Wolda, że każdy stacjonarny proces kowariancji może zostać jednoznacznie rozłożony na komponent deterministyczny i komponent stochastyczny.

— Matthew Gunn
źródło