Istnieje kilka sposobów na zastosowanie bootstrapu. Dwa najbardziej podstawowe podejścia to tzw. Bootstrap „nieparametryczny” i „parametryczny”. Drugi zakłada, że używany model jest (zasadniczo) poprawny.
Skupmy się na pierwszym. Będziemy zakładać, że masz losowej próbie rozprowadzany zgodnie z funkcji rozkładu . (Zakładając, że inaczej wymaga zmodyfikowanych podejść.) Niech będzie empirycznym rozkładem skumulowanym funkcjonować. Wiele motywacji do bootstrap pochodzi z kilku faktów.X1,X2,…,XnFF^n(x)=n−1∑ni=11(Xi≤x)
Nierówności Dvoretzky – Kiefer – Wolfowitz
P(supx∈R|F^n(x)−F(x)|>ε)≤2e−2nε2.
To pokazuje, że empiryczna funkcja rozkładu zrównuje się równomiernie z prawdziwą funkcją rozkładu z wykładniczym prawdopodobieństwem. Rzeczywiście, ta nierówność w połączeniu z lematem Borela – Cantellego pokazuje natychmiast, że prawie na pewno.supx∈R|F^n(x)−F(x)|→0
Nie ma żadnych dodatkowych warunków na formularzu w celu zagwarantowania tej konwergencji.F
Heurystycznie zatem, jeśli interesuje nas jakaś funkcjonalna funkcji rozkładu, która jest gładka , oczekujemy, że będzie zbliżone do .T(F)T(F^n)T(F)
(Pointwise) BezstronnośćF^n(x)
Prostą liniowością oczekiwań i definicją , dla każdego ,F^n(x)x∈R
EFF^n(x)=F(x).
Załóżmy, że interesuje nas średnia . Wtedy bezstronność miary empirycznej rozciąga się na bezstronność liniowych funkcjonałów miary empirycznej. Tak więc
μ=T(F)
EFT(F^n)=EFX¯n=μ=T(F).
Więc jest poprawne średnio, a ponieważ szybko zbliża się do , to (heurystycznie), szybko zbliża się do .T(F^n)Fn^FT(F^n)T(F)
Aby skonstruować przedział ufności ( czyli w gruncie rzeczy chodzi o bootstrap ), możemy użyć centralnego twierdzenia granicznego, spójności kwantyli empirycznych i metody delta jako narzędzi do przejścia od prostych funkcjonałów liniowych do bardziej skomplikowanych interesujących statystyk .
Dobre referencje są
- B. Efron, metody Bootstrap: kolejne spojrzenie na scyzoryk , Ann. Stat. , vol. 7, nr 1, 1–26.
- B. Efron i R. Tibshirani, An Introduction to Bootstrap , Chapman – Hall, 1994.
- GA Young i RL Smith, Essentials of Statistics Inference , Cambridge University Press, 2005, rozdział 11 .
- AW van der Vaart, Asymptotic Statistics , Cambridge University Press, 1998, rozdział 23 .
- P. Bickel i D. Freedman, Niektóre asymptotyczne teorie dotyczące bootstrapu . Ann. Stat. , vol. 9, nr 6 (1981) 1196–1217.