W jaki sposób statystyki chi-kwadrat Pearsona przybliżają rozkład chi-kwadrat

Jeśli więc podana jest chi-kwadratowa statystyka Pearsona dla tabeli , wówczas jej forma jest następująca:$1 \times N$

W przybliżeniu , rozkład chi-kwadrat z n - 1 stopniami swobody, gdy wielkość próbki N powiększa się. $\chi_{n-1}^2$$n-1$$N$

Nie rozumiem, jak działa to asymptotyczne przybliżenie. Czuję, że w mianownikach należy zastąpić s 2 $E_i$ . Ponieważ dałoby toχ 2 n =∑ n i = 1 Z 2 i , dlaZi∼n(0,1). Ale oczywiście ma tonstopni swobody, a nien-1, więc wyraźnie dzieje się coś innego.$\frac{s_i^2}{n_i}$$\chi_n^2 = \sum_{i=1}^nZ_i^2$$Z_i\sim n(0,1)$$n$$n-1$

Zmotywuję to intuicyjnie i wskażę, jak to się dzieje w specjalnym przypadku dwóch grup, zakładając, że z przyjemnością przyjmiesz normalne przybliżenie do dwumianu.

Mam nadzieję, że to wystarczy, abyś dobrze zorientował się, dlaczego działa tak, jak działa.

Mówisz o teście dobroci dopasowania chi-kwadrat. Powiedzmy, że istnieje grup (masz to jako n , ale jest powód, dla którego wolę nazywać to $k$$n$$k$ ).

W modelu są stosowane w tej sytuacji, liczy , i = 1 , 2 , . . . , k są wielomianowe$O_i$$i=1,2,...,k$ .

Niech . Liczenia zależą od sumy N (z wyjątkiem niektórych dość rzadkich sytuacji); i dla każdej kategorii istnieje pewien wstępnie określony zestaw prawdopodobieństw, p i , i = 1 , 2 , … , k , które sumują się do $N=\sum_{i=1}^k O_i$$N$$p_i, i=1, 2, \ldots,k$$1$ .

Podobnie jak w przypadku dwumianu istnieje asymptotyczne przybliżenie normalne dla wielomianów - w rzeczywistości, jeśli weźmie się pod uwagę tylko liczbę w danej komórce („w tej kategorii” lub nie), wówczas byłaby ona dwumianowa. Podobnie jak w przypadku dwumianu, wariancje zliczeń (a także ich kowariancje w wielomianu) są funkcjami i p ; nie oceniasz wariancji osobno.$N$$p$

Oznacza to, że jeżeli oczekiwane zliczenia są dostatecznie duże, wektor liczy w przybliżeniu normalnym do średniej . Ponieważ jednak liczby są zależne od N , rozkład jest zdegenerowany (istnieje w hiperpłaszczyźnie o wymiarze k - 1 , ponieważ określenie k - 1 zliczeń naprawia pozostałą). Macierz wariancji-kowariancji ma wpisy ukośne N p i ( 1 - p i ) oraz elementy poziome - N p i p $E_i=Np_i$$N$$k-1$$k-1$$Np_i(1-p_i)$$-Np_ip_j$, i ma rangę powodu degeneracji.$k-1$

W rezultacie dla pojedynczej komórki , a można napisać z i = O i - E $\text{Var}(O_i)=Np_i(1-p_i)$ . Jednak warunki są zależne (ujemnie skorelowane), więc jeśli zsumujesz kwadraty tychzi,to nie będzie miałrozkładuχ2k(tak jak gdyby były to niezależne zmienne standaryzowane). Zamiast tego moglibyśmy potencjalnie skonstruować zestawk-1zmiennych niezależnych od pierwotnegok,które są niezależne i nadal w przybliżeniu normalne (asymptotycznie normalne). Jeśli zsumujemyich(znormalizowane) kwadraty, otrzymamyχ2k-$z_i = \frac{O_i-E_i}{\sqrt{E_i(1-p_i)}}$$z_i$$\chi^2_k$$k-1$$k$$\chi^2_{k-1}$. Istnieją sposoby skonstruowania takiego zestawu zmiennych sposób jawny, ale na szczęście istnieje bardzo zgrabny skrót, który pozwala uniknąć znacznego wysiłku i daje taki sam wynik (tę samą wartość statystyki), jak gdybyśmy mieli zadał sobie trud.$k-1$

Rozważ, dla uproszczenia, dobroć dopasowania w dwóch kategoriach (która jest teraz dwumianowa). Prawdopodobieństwo przebywania w pierwszej komórce wynosi , aw drugiej komórce jest p 2 = 1 - p . Istnieje X = O 1 obserwacji w pierwszej komórki, a N - X = O 2 w drugiej komórce.$p_1=p$$p_2=1-p$$X = O_1$$N-X=O_2$

$X$$\text{N}(Np,Np(1-p))$$z=\frac{X-Np}{\sqrt{Np(1-p)}}$$z^2 = \frac{(X-Np)^2}{Np(1-p)}$$\sim \chi^2_1$ (asymptotically $\sim \chi^2_1$).

Notice that

$\sum_{i=1}^2 \frac{(O_i-E_i)^2}{E_i} = \frac{[X-Np]^2}{Np}+ \frac{[(N-X)-(N-Np)]^2}{N(1-p)}= \frac{[X-Np]^2}{Np}+ \frac{[X-Np]^2}{N(1-p)}=(X-Np)^2[\frac{1}{Np}+ \frac{1}{N(1-p)}]$.

But

$\frac{1}{Np}+ \frac{1}{N(1-p)} =\frac{Np+N(1-p)}{Np.N(1-p)} = \frac{1}{Np(1-p)}$.

So $\sum_{i=1}^2 \frac{(O_i-E_i)^2}{E_i} =\frac{(X-Np)^2}{Np(1-p)}$ which is the $z^2$ we started with - which asymptotically will be a $\chi^2_1$ random variable. The dependence between the two cells is such that by diving by $E_i$ instead of $E_i(1-p_i)$ we exactly compensate for the dependence between the two, and get the original square-of-an-approximately-normal random variable.

The same kind of sum-dependence is taken care of by the same approach when there are more than two categories -- by summing the $\frac{(O_i-E_i)^2}{E_i}$ instead of $\frac{(O_i-E_i)^2}{E_i(1-p_i)}$ over all $k$ terms, you exactly compensate for the effect of the dependence, and obtain a sum equivalent to a sum of $k-1$ independent normals.

There are a variety of ways to show the statistic has a distribution that asymptotically $\chi^2_{k-1}$ for larger $k$ (it's covered in some undergraduate statistics courses, and can be found in a number of undergraduate-level texts), but I don't want to lead you too far beyond the level your question suggests. Indeed derivations are easy to find in notes on the internet, for example there are two different derivations in the space of about two pages here

The one-page manuscript http://sites.stat.psu.edu/~dhunter/asymp/lectures/p175to184.pdf referred to by user @Glen_b ultimately shows that the statistic can be rewritten as a Hotelling $T^2$ with covariance rank = $k-1$ (see eq. 9.6). We may then invoke a classical result of S.J. Sepanski (1994) to obtain its asymptotic distribution as a chi-squared with $k-1$ degrees of freedom.