Wpływ granic bin na podstawie danych na test dobroci dopasowania chi-kwadrat?

Pomijając oczywistą kwestię niskiej mocy chi-kwadrat w tego rodzaju okolicznościach, wyobraź sobie, że wykonujesz test dobroci chi-kwadrat dla pewnej gęstości z nieokreślonymi parametrami, poprzez binowanie danych.

Dla konkretności, powiedzmy rozkład wykładniczy z nieznaną średnią i wielkość próby powiedzmy 100.

Aby uzyskać rozsądną liczbę spodziewanych obserwacji na przedział, należałoby wziąć pod uwagę dane (np. Jeśli zdecydujemy się umieścić 6 przedziałów poniżej średniej i 4 powyżej, to nadal używamy granic przedziału na podstawie danych) .

Ale to wykorzystanie pojemników opartych na oglądaniu danych prawdopodobnie wpłynęłoby na rozkład statystyki testowej poniżej wartości zerowej.

Widziałem wiele dyskusji na temat tego, że - jeśli parametry są szacowane na podstawie maksymalnego prawdopodobieństwa na podstawie skumulowanych danych - tracisz 1 df na szacowany parametr (problem pochodzi z czasów Fishera i Karla Pearsona) - ale nie pamiętam czytając cokolwiek na temat znajdowania samych granic bin na podstawie danych. (Jeśli oszacujesz je na podstawie niepowiązanych danych, wówczas z binami rozkład statystyki testowej leży gdzieś pomiędzy a a .) $k$ $\chi^2_{k}$ $\chi^2_{k-p}$

Czy ten oparty na danych wybór pojemników ma istotny wpływ na poziom istotności lub moc? Czy są jakieś podejścia, które mają większe znaczenie niż inne? Jeśli jest duży efekt, czy jest to coś, co odchodzi w dużych próbkach?

Jeśli ma to znaczący wpływ, wydaje się, że zastosowanie testu chi-kwadrat, gdy parametry są nieznane, jest prawie bezużyteczne w wielu przypadkach (pomimo tego, że wciąż zaleca się sporo tekstów), chyba że masz dobry -priori oszacowanie parametru.

Przydatna byłaby dyskusja na temat zagadnień lub wskazówek do odniesień (najlepiej z podaniem ich wniosków).

Edytuj, prawie na bok do głównego pytania:

Przyszło mi do głowy, że istnieją potencjalne rozwiązania dla konkretnego przypadku wykładniczego * (i mundur się nad tym zastanawia), ale nadal interesuje mnie bardziej ogólny problem wpływu granic granicznych.

* Na przykład dla wykładniczej można użyć najmniejszej obserwacji (powiedzmy, że jest równa ), aby uzyskać bardzo przybliżone wyobrażenie o tym, gdzie umieścić pojemniki (ponieważ najmniejsza obserwacja jest wykładnicza ze średnią ), i następnie przetestuj pozostałe różnice ( ) pod kątem wykładniczości. Oczywiście może to dać bardzo słabe oszacowanie , a zatem złe wybory bin, chociaż przypuszczam, że można użyć argumentu rekurencyjnie, aby wziąć najniższe dwie lub trzy obserwacje, z których można wybrać rozsądne pojemniki, a następnie przetestować różnice pozostałe obserwacje powyżej największej z tych statystyk dotyczących najmniejszego rzędu wykładniczej) $m$ $\mu/n$ $n-1$ $x_i - m$ $\mu$

chi-squared goodness-of-fit binning

— Glen_b - Przywróć Monikę
źródło

Interesujące pytanie. Nie znam odpowiedzi, ale pomysł, że należy utracić pewien stopień swobody, ma sens. Jeśli jeszcze tego nie widziałeś, ta odpowiedź @whuber powinna prowokować do myślenia: jak rozumieć stopnie swobody . Wydaje mi się, że niektóre badania symulacyjne powinny umożliwić ci utrzymanie się tutaj, przynajmniej w niektórych szczególnych przypadkach.

— gung - Przywróć Monikę

Nie jestem pewien, jak to jest pomocne, ale istnieje podobny problem w zakresie solidnych oszacowań. W szczególności metoda solidnego oszacowania (np. Średnia przycięta) często wymaga sparametryzowanego wejścia (np. Parametr określający, ile należy przyciąć). Ten parametr można wybrać za pomocą metody opartej na danych (np. Sprawdź, jak grube są ogony przed wyborem parametru przycinania). Ale wstępny wybór parametru przycinania wpływa na rozkład średniej przyciętej w porównaniu z, powiedzmy, regułą parametru stałego. Zwykle w literaturze jest to omawiane poprzez bootstrap.

— Colin T Bowers

@ColinTBowers - potencjalnie nieco pomocny, dzięki. Nie myślałem o możliwości bootstrapowania.

— Glen_b

Interesujące może być podzielenie problemu na najprostszy przypadek. Wyobraź sobie coś w rodzaju zaledwie 5 obserwacji z Twojej ulubionej dystrybucji i umieść pojedynczy dzielnik w danych, aby utworzyć tylko dwa przedziały.

— zkurtz

Odpowiedzi:

Podstawowe wyniki testów dobroci dopasowania chi-kwadrat można rozumieć hierarchicznie .

Poziom 0 . Klasyczna statystyka testu chi-kwadrat Pearsona do testowania próbki wielomianowej względem stałego wektora prawdopodobieństwa wynosi $p$ gdzie oznacza liczbę wyników w tej komórce z próbki o rozmiarze . Można to owocnie postrzegać jako kwadratową normę wektora

X^{2)} (p) = \sum_{ja = 1}^{k} \frac{(X_{ja}^{(n)} - n p_{ja})^{2)}}{n p_{ja}} \overset{re}{\to} χ_{k - 1}^{2)},

$X^2(p) = \sum_{i=1}^k \frac{(X^{(n)}_i - n p_i)^2}{n p_i} \stackrel{d}{\to} \chi_{k-1}^2 \>,$

X_{i}^{(n)}

$X_i^{(n)}$

i

$i$

n

$n$

gdzie

Y_{n} = (Y_{1}^{(n)}, \dots, Y_{k}^{(n)})

$\mathbf Y_n = (Y_1^{(n)},\ldots,Y_k^{(n)})$

które według wielowymiarowego twierdzenia o granicy centralnej zbiega się w rozkładzie jako

Y_{i}^{(n)} = (X_{i}^{(n)} - n p_{i}) / \sqrt{n p_{i}}

$Y_i^{(n)} = (X_i^{(n)} - n p_i)/\sqrt{n p_i}$

Z tego wynika, że

ponieważ

Y_{n} \overset{re}{\to} N. (0, ja - \sqrt{p} {\sqrt{p}}^{T.}) .

$\mathbf Y_n \stackrel{d}{\to} \mathcal N(0, \mathbf I - \sqrt{p}\sqrt{p}^T) \>.$

X^{2} = ‖ Y_{n} ‖^{2} \to χ_{k - 1}^{2}

$X^2 = \|\mathbf Y_n\|^2 \to \chi^2_{k-1}$

jest idempotentem rangi

I - \sqrt{p} {\sqrt{p}}^{T}

$\mathbf I - \sqrt{p}\sqrt{p}^T$

k - 1

$k-1$

$p$ $m$ $p_i$

X_{1}^{2)} = \sum_{ja = 1}^{k} \frac{(X_{ja}^{(n)} - n {\hat{p}}_{ja})^{2)}}{n {\hat{p}}_{ja}} \overset{re}{\to} χ_{k - m - 1}^{2)},

$X^2_1 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

$\lambda$ $k$

$m$ $m = 1$

X_{2)}^{2)} = \sum_{ja = 1}^{k} \frac{(X_{ja}^{(n)} - n {\hat{p}}_{ja})^{2)}}{n {\hat{p}}_{ja}} \overset{re}{\to} χ_{k - m - 1}^{2)},

$X^2_2 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

{\hat{p}}_{i}

$\hat{p}_i$

$Z_1,\ldots,Z_n \sim F_\lambda$ $\lambda$ $\chi_{k-m-1}^2$ $\chi_{k-1}^2$

$\mathbf Y_n$ $\mathcal N(0, \mathbf I - \sqrt{p_\lambda}\sqrt{p_\lambda}^T - \mathbf A(\lambda))$

$\lambda$ $\mathbf A(\lambda)$

$\mathbf Y_n$ $\mathbf B(\hat{\lambda})$

Y_{n}^{T.} b^{T.} b Y_{n} \overset{re}{\to} χ_{k - 1}^{2)},

$\mathbf Y_n^T \mathbf B^T \mathbf B \mathbf Y_n \stackrel{d}{\to} \chi_{k-1}^2 \>,$

k

$k$

Przykładami są statystyki Rao – Robsona – Nikulina oraz statystyki Dzhaparidze – Nikulina .

$k$ $1/k$ $\hat{I}_j = \hat \mu + \hat\sigma I_{0,j}$ $I_{0,j} = [F^{-1}((j-1)/k), F^{-1}(j/k))$

Bibliografia

A W. van der Vaart (1998), Asymptotic Statistics , Cambridge University Press. Rozdział 17 : Testy chi-kwadrat .
$\chi^2$
FC Drost (1989), Uogólnione testy dobroci dopasowania chi-kwadrat dla modeli w skali lokalizacji, gdy liczba klas dąży do nieskończoności , Ann. Stat , vol. 17, nr 3, 1285–1300.
MS Nikulin, MS (1973), test chi-kwadrat dla ciągłego rozkładu z parametrami przesunięcia i skali , teoria prawdopodobieństwa i jej zastosowanie , vol. 19, nr 3, 559–568.
KO Dzaparidze i MS Nikulin (1973), O modyfikacji standardowych statystyk Pearsona , Teorii prawdopodobieństwa i jej zastosowaniu , vol. 19, nr 4, 851–853.
KC Rao i DS Robson (1974), Statystyka chi-kwadrat dla dobroci testów dopasowania w rodzinie wykładniczej , Comm. Statystyk. , tom 3., nr. 12, 1139–1153.
N. Balakrishnan, V. Voinov i MS Nikulin (2013), Chi-Squared Goodness of Fit Tests With Applications , Academic Press.

— kardynał
źródło

Poniżej znalazłem przynajmniej częściowe odpowiedzi na moje pytanie. (Nadal chciałbym komuś dać ten bonus, więc wszelkie dalsze informacje są mile widziane.)

$\chi^2_{k-p-1}$ $p$ $\chi^2_1$ $k$ $p$ $\chi^2_{k-p}$ $\chi^2_{k}$ $p$

Bibliografia

Moore DS (1971), A Chi-Square Statistics with Random Cell Boundaries , Ann. Matematyka Stat. , Tom 42, nr 1, 147–156.

$\chi^2$

— Glen_b - Przywróć Monikę
źródło