Centralne twierdzenie graniczne dla pierwiastków kwadratowych sum iid zmiennych losowych

Zaintrygowany pytaniem z math.stackexchange i badając go empirycznie, zastanawiam się nad następującym stwierdzeniem o pierwiastku kwadratowym sum iid zmiennych losowych.

Załóżmy że są zmiennymi losowymi o skończonej niezerowej średniej i wariancji , a . Twierdzenie o granicy centralnej mówi gdy wzrasta. $X_1, X_2, \ldots, X_n$ $\mu$ $\sigma^2$ $\displaystyle Y=\sum_{i=1}^n X_i$ $\displaystyle \dfrac{Y - n\mu}{\sqrt{n\sigma^2}} \ \xrightarrow{d}\ N(0,1)$ $n$

Jeśli , czy mogę również powiedzieć coś takiego jak miarę wzrostu ? $Z=\sqrt{|Y|}$ $\displaystyle \dfrac{Z - \sqrt{n |\mu|-\tfrac{\sigma^2}{4|\mu|}}}{\sqrt{\tfrac{\sigma^2}{4|\mu|}}}\ \xrightarrow{d}\ N(0,1)$ $n$

Załóżmy na przykład, że są Bernoullim ze średnią i wariancją , wtedy jest dwumianowy i mogę to zasymulować w R, powiedzmy za pomocą : $X_i$ $p$ $p(1-p)$ $Y$ $p=\frac13$

set.seed(1)
cases <- 100000
n <- 1000
p <- 1/3
Y <- rbinom(cases, size=n, prob=p)
Z <- sqrt(abs(Y))

co daje w przybliżeniu oczekiwaną średnią i wariancję dla $Z$

> c(mean(Z), sqrt(n*p - (1-p)/4))
[1] 18.25229 18.25285
> c(var(Z), (1-p)/4)
[1] 0.1680012 0.1666667

oraz wykres QQ, który wygląda jak Gaussa

qqnorm(Z)

normal-distribution central-limit-theorem sum

— Henz
źródło

@MichaelM: Dzięki za komentarze. Zacząłem od nieujemnego, ale myślałem, że intuicyjne zachowanie asymptotyczne, które opisujesz, pozwoliło na uogólnienie na więcej dystrybucji. Moimi niespodziankami były (a) wariancja pierwiastka kwadratowego sumy najwyraźniej zmierzająca do stałej niezale nej od oraz (b) pojawienie się rozkładu, który wygląda bardzo blisko Gaussa. Przeciwny przykład byłby mile widziany, ale kiedy próbowałem innych przypadków, które początkowo wydawały się nie Gaussowskie, zwiększenie dalej wydawało się przywrócić rozkład do wyniku typu CLT.

X_{i}

$X_i$

n

$n$

n

$n$

— Henry

Następstwem tego jest średnia kwadratowa (lub kwadratowa) odpowiednio dobranych zmiennych losowych iid (pomnożona przez jak ze średnią arytmetyczną) również zbiega się do rozkładu Gaussa, pod warunkiem, że moment podstawowa dystrybucja jest skończona.

\sqrt{n}

$\sqrt{n}$

4

$4$

— Henry

Krótki komentarz: twierdzenie jest szczególnym przypadkiem metody Delta, patrz Twierdzenie 5.5.24 w książce „Wnioskowanie statystyczne” Caselli i Bergera.

— Michael M

@Michael: Być może widzisz coś, czym w tej chwili nie jestem, ale nie sądzę, aby ten konkretny problem mieścił się w założeniach klasycznej metody Delta (np. Jak stwierdzono w cytowanym przez ciebie twierdzeniu). Zauważ, że nie jest zbieżny w dystrybucji (nietypowo na ), a zatem „zastosowanie metody Delta za pomocą ” nie spełnia wymaganych wymagań. Jednak, jak pokazuje odpowiedź S. Catterall, zapewnia on przydatną heurystykę, która prowadzi do prawidłowej odpowiedzi.

Y

$Y$

R

$\mathbb R$

g (y) = \sqrt{| y |}

$g(y) = \sqrt{|y|}$

— kardynał

(Wierzę, że można dostosować dowód metody Delta do przypadków podobnych do powyższego, aby w pełni uszanować wspomnianą heurystykę.)

— kardynał

Konwergencja do Gaussa jest rzeczywiście zjawiskiem ogólnym.

Załóżmy, że są losowymi zmiennymi IID o średniej i wariancji , i zdefiniuj sumy . Napraw liczbę . Zwykłe twierdzenie o centralnym mówi nam, że as , gdzie to standardowy normalny plik cdf. Jednak ciągłość ograniczającego cdf oznacza, że mamy również $X_1,X_2,X_3,...$ $\mu\gt 0$ $\sigma^2$ $Y_n=\sum_{i=1}^n X_i$ $\alpha$ $P(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha)\to\Phi(\alpha)$ $n\to\infty$ $\Phi$

P (\frac{Y_{n} - n μ}{σ \sqrt{n}} \leq α + \frac{α^{2} σ^{2}}{4 μ σ \sqrt{n}}) \to Φ (α)

$P\Big(\frac{Y_n-n\mu}{\sigma\sqrt n}\leq \alpha+\frac{\alpha^2 \sigma^2}{4\mu\sigma\sqrt n}\Big)\to\Phi(\alpha)$ ponieważ dodatkowy termin po prawej stronie nierówności dąży do zera. Zmiana tego wyrażenia prowadzi do

P (Y_{n} \leq (\frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ})^{2}) \to Φ (α)

$P\Big(Y_n\leq (\frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu})^2\Big)\to\Phi(\alpha)$

Biorąc pierwiastki kwadratowe i zauważając, że oznacza, że , otrzymujemy Innymi słowy, . Ten wynik pokazuje konwergencję do gaussowskiego w granicy jako . $\mu\gt 0$ $P(Y_n\lt 0)\to 0$

P (\sqrt{| Y_{n} |} \leq \frac{α σ}{2 \sqrt{μ}} + \sqrt{n μ}) \to Φ (α)

$P\Big(\sqrt{|Y_n|}\leq \frac{\alpha\sigma}{2\sqrt \mu}+\sqrt{n\mu}\Big)\to\Phi(\alpha)$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

n \to \infty

$n\to\infty$

Czy to oznacza, że jest dobrym przybliżeniem do dla dużego ? Cóż, możemy zrobić lepiej niż to. Jak zauważa @Henry, zakładając, że wszystko jest pozytywne, możemy użyć , razem z i przybliżenie , aby uzyskać ulepszone przybliżenie jak podano w powyższym pytaniu. Zauważ też, że wciąż mamy ponieważ $\sqrt{n\mu}$ $E[\sqrt{|Y_n|}]$ $n$ $E[\sqrt{Y_n}]=\sqrt{E[Y_n]-\text{Var}(\sqrt{Y_n})}$ $E[Y_n]=n\mu$ $\text{Var}(\sqrt{Y_n})\approx \frac{\sigma^2}{4\mu}$ $E[\sqrt{|Y_n|}]\approx\sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - \frac{σ^{2}}{4 μ}}}{σ / 2 \sqrt{μ}} \overset{d}{\to} N (0, 1)

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-\frac{\sigma^2}{4\mu}}}{\sigma/{2\sqrt\mu}}\xrightarrow{d}N(0,1)$

\sqrt{n μ - \frac{σ^{2}}{4 μ}} - \sqrt{n μ} \to 0

$\sqrt{n\mu-\frac{\sigma^2}{4\mu}}-\sqrt{n\mu}\to 0$ jako .

n \to \infty

$n\to\infty$

— S. Catterall Przywróć Monikę
źródło

Może być konieczne dodanie jako aby uzyskać mój wynik

\sqrt{n μ} - \sqrt{n μ - \frac{σ^{2}}{4 μ}} \to 0

$\sqrt{n \mu}-\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}} \to 0$

n \to \infty

${n \to \infty}$

— Henry

@Henry można zastąpić o dla każdego stałego a to nie zmienia dystrybucji ograniczającą, ale można go zmieniać w jakim stopniu to dobre przybliżenie do dla określonego dużego . Jak wymyśliłeś ?

\sqrt{n μ}

$\sqrt{n\mu}$

\sqrt{n μ - k}

$\sqrt{n\mu-k}$

k

$k$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ - k}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu-k}}{\sigma/{2\sqrt\mu}}$

N (0, 1)

$N(0,1)$

n

$n$

\sqrt{n μ - \frac{σ^{2}}{4 μ}}

$\sqrt{n \mu-\tfrac{\sigma^2}{4\mu}}$

— S. Catterall Reinstate Monica

Mamy więc . Zakładając, że wszystko jest dodatnie, a mianownik sugeruje i połączenie tych prowadzi do .

Var (Z) = E [Z^{2}] - (E [Z])^{2}

$\text{Var}(Z)=E[Z^2]-(E[Z])^2$

E [Z] = \sqrt{E [Z^{2}] - Var (Z)}

$E[Z]=\sqrt{E[Z^2]-\text{Var}(Z)}$

E [Z^{2}] = E [Y] = n μ

$E[Z^2]=E[Y]=n\mu$

\frac{\sqrt{| Y_{n} |} - \sqrt{n μ}}{σ / 2 \sqrt{μ}}

$\frac{\sqrt{|Y_n|}-\sqrt{n\mu}}{\sigma/{2\sqrt\mu}}$

Var (Z) \approx \frac{σ^{2}}{4 μ}

$\text{Var}(Z) \approx \dfrac{\sigma^2}{4\mu}$

E [Z] \approx \sqrt{n μ - \frac{σ^{2}}{4 μ}}

$E[Z] \approx \sqrt{n\mu- \dfrac{\sigma^2}{4\mu}}$

— Henry

Ok, dziękuję, próbowałem teraz opisać to w mojej odpowiedzi.

— S. Catterall Przywróć Monikę