Twierdzenie o granicy centralnej dla łańcuchów Markowa

$\newcommand{\E}{\mathbb{E}}$ $\newcommand{\P}{\mathbb{P}}$ The Central Limit Theorem (CLT) stwierdza, że dla niezależne i identycznie rozmieszczone (iid) z i nazwa , suma zbiega się do rozkładu normalnego jako : $X_1,X_2,\dots$ $\E[X_i]=0$ $\operatorname{ Var} (X_i)<\infty$ $n\to\infty$

\sum_{i = 1}^{n} X_{i} \to N (0, \sqrt{n}) .

$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$

Załóżmy zamiast tego, że tworzą łańcuch Markowa w stanie skończonym ze stacjonarnym rozkładem z oczekiwaniem 0 i ograniczoną wariancją. Czy w tym przypadku istnieje proste rozszerzenie CLT? $X_1,X_2,\dots$ $\P_\infty$

Artykuły, które znalazłem na CLT dla Markov Chains, ogólnie traktują o wiele bardziej ogólne przypadki. Byłbym bardzo wdzięczny za wskaźnik do odpowiedniego ogólnego wyniku i wyjaśnienie, w jaki sposób ma on zastosowanie.

markov-process central-limit-theorem

— tom4everitt
źródło

Artykuł Lin and Tegmark Critical Behavior from Deep Dynamics dogłębnie omawia

— Mike Hunter

Odpowiedzi:

Odpowiedź Alexa R. jest prawie wystarczająca, ale dodam jeszcze kilka szczegółów. W „ Twierdzeniu o centralnej granicy łańcucha Markowa - Galin L. Jones” , jeśli spojrzysz na twierdzenie 9, powie ono:

Jeśli jest ergodycznym łańcuchem Harrowa Markowa o rozkładzie stacjonarnym , CLT oznacza jeśli jest równomiernie ergodyczny, a . $X$ $\pi$ $f$ $X$ $E[f^2] < \infty$

W przypadku skończonych przestrzeni stanów wszystkie nieredukowalne i nieokresowe łańcuchy Markowa są jednakowo ergodyczne. Dowodem na to jest spore doświadczenie w teorii łańcucha Markowa. Dobrym odniesieniem byłoby tutaj, na dole Twierdzenia 18 tutaj .

Zatem łańcuch Markowa CLT zachowałby się dla każdej funkcji która ma skończony drugi moment. Forma, jaką przyjmuje CLT, jest opisana w następujący sposób. $f$

Niech być czasowo uśredniony estymator , a następnie Alex R. wskazuje się, a , $\bar{f}_n$ $E_{\pi}[f]$ $n \to \infty$

{\bar{f}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \overset{a.s.}{\to} E_{π} [f] .

$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$

Łańcuch Markowa CLT to

\sqrt{n} ({\bar{f}}_{n} - E_{π} [f]) \overset{d}{\to} N (0, σ^{2}),

$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$

gdzie

σ^{2} = \underset{Expected term}{\underset{⏟}{{Var}_{π} (f (X_{1}))}} + \underset{Term due to Markov chain}{\underset{⏟}{2 \sum_{k = 1}^{\infty} {Cov}_{π} (f (X_{1}), f (X_{1 + k}))}} .

$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$

Pochodne terminu można znaleźć na stronie 8 i stronie 9 notatek MCMC Charlesa Geyera tutaj $\sigma^2$

— Greenparker
źródło

Dzięki, to bardzo jasne! Czy istnieje prosty argument, dlaczego skończone, nieredukowalne i aperiodyczne łańcuchy Markowa są jednakowo ergodyczne? (nie to, że ci nie ufam ^^).

— tom4everitt

@ tom4everitt Niestety definicja „łatwego” jest subiektywna. Jeśli znasz warunki znoszenia i pomniejszenia dla łańcuchów Markowa, argument jest łatwy. Jeśli nie, to byłby to długi argument. Zamiast tego spróbuję znaleźć referencję. Może chwilę potrwać.

— Greenparker,

To byłoby niesamowite. Jeśli nie znajdziesz, kilka zdań wskazujących na głównych krokach byłoby nadal pomocne.

— tom4everitt,

@ tom4everitt Dodano odniesienie do odpowiedzi. Mam nadzieję, że to wystarczy.

— Greenparker,

@Greenparker Czy mogę prosić o pomoc w zrozumieniu, w jaki sposób powstaje wariancja w odpowiedzi. Przejrzałem odniesienie w twojej odpowiedzi, ale nie znalazłem tam pochodnej. Mam źródło, MC for MCsist, ale nie do końca rozumiem, jak się tam wywodzi. To jest, w jaki sposób wyprowadza się termin ? Dziękuję Ci!

σ^{2}

$\sigma^2$

— LeastSquaresWonderer

„Zwykłym” wynikiem dla Łańcuchów Markowa jest twierdzenie Ergodyczne Birkhoffa, które to mówi

\frac{1}{n} \sum_{i = 1}^{n} f (X_{i}) \to E_{π} [f],

$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$

gdzie jest rozkładem stacjonarnym, a spełnia , a zbieżność jest prawie pewna. $\pi$ $f$ $E|f(X_1)|<\infty$

Niestety fluktuacje tej konwergencji są na ogół dość trudne. Wynika to głównie z ekstremalnej trudności w ustaleniu całkowitych granic zmienności dotyczących tego, jak szybko zbliża się do rozkładu stacjonarnego . Znane są przypadki, w których fluktuacje są analogiczne do CLT, a na dryfie można znaleźć pewne warunki, które sprawiają, że analogia się utrzymuje: Na centralnym twierdzeniu granicznym łańcucha Markowa - Galin L. Jones (patrz twierdzenie 1). $X_i$ $\pi$

Są też głupie sytuacje, na przykład łańcuch z dwoma stanami, w których jeden jest absorbujący (tj. i W tym przypadku nie ma wahań, a ty uzyskać konwergencję do zdegenerowanego rozkładu normalnego (stałej). $P(1\rightarrow 2)=1$ $P(2\rightarrow 1)=0$

— Alex R.
źródło

Nie sądzę, żeby pytał o prawie pewną zbieżność. Myślę, że chce swego rodzaju „tłumaczenia” niektórych CLT na przestrzenie ogólne: prawdopodobnie wyjaśnienie, co oznaczają wymagane założenia w konkretnym kontekście łańcuchów skończonej przestrzeni stanów

— Taylor

Dzięki. Czy normalny, ładny, skończony stan łańcucha Markowa w trywialny sposób spełnia warunki znoszenia? Byłbym nawet szczęśliwy, wiedząc, że to tylko dwupaństwowy łańcuch, ale nie jest dla mnie oczywiste, jak to udowodnić.

— tom4everitt