Przykłady przypadków, gdy przedział ufności i przedział wiarygodności pokrywają się

W artykule na Wikipedii na temat przedziału wiarygodności napisano:

W przypadku pojedynczego parametru i danych, które można podsumować za pomocą jednej wystarczającej statystyki, można wykazać, że wiarygodny przedział i przedział ufności zbiegną się, jeśli nieznany parametr jest parametrem lokalizacji (tj. Funkcja prawdopodobieństwa przekazania ma postać Pr (x | μ) = f (x - μ)), z uprzednim, który jest równomiernym rozkładem płaskim; [5], a także jeśli nieznany parametr jest parametrem skali (tzn. Funkcja prawdopodobieństwa w przód ma postać Pr (x | s) = f (x / s)), z wcześniejszym Jeffreysem [5] - ten drugi z kolei wynika z tego, że biorąc logarytm takiego parametru skali zamienia go w parametr lokalizacji o rozkładzie równomiernym. Ale są to szczególnie szczególne (aczkolwiek ważne) przypadki; zasadniczo nie można uzyskać takiej równoważności. ”

Czy ludzie mogą podać konkretne przykłady tego? Kiedy 95% CI faktycznie odpowiada „95% szansie”, a tym samym „narusza” ogólną definicję CI?

confidence-interval credible-interval

— Wayne
źródło

normalna dystrybucja:

Weź rozkład normalny ze znaną wariancją. Możemy uznać tę wariancję za 1 bez utraty ogólności (po prostu dzieląc każdą obserwację przez pierwiastek kwadratowy wariancji). Ma to rozkład próbkowania:

p (X_{1} . . . X_{N} | μ) = {(2 π)}^{- \frac{N}{2}} \exp (- \frac{1}{2} \sum_{i = 1}^{N} (X_{i} - μ)^{2}) = A \exp (- \frac{N}{2} (\bar{X} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

Gdzie jest stałą, która zależy tylko od danych. To pokazuje, że średnia próby jest wystarczającą statystyką dla średniej populacji. Jeśli użyjemy munduru przed, to rozkład tylny dla będzie : $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) \sim N o r m a l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

Tak więc wiarygodny interwał będzie miał postać: $1-\alpha$

(\bar{X} + \frac{1}{\sqrt{N}} L_{α}, \bar{X} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

Gdzie i są wybrane tak, że standardowa normalna zmienna losowa spełnia: $L_{\alpha}$ $U_{\alpha}$ $Z$

P r (L_{α} < Z < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

Teraz możemy zacząć od tej „kluczowej wielkości” do skonstruowania przedziału ufności. Rozkład próbkowania dla fixed jest standardowym rozkładem normalnym, więc możemy podstawić to powyższym prawdopodobieństwem: $\sqrt{N}(\mu-\overline{X})$ $\mu$

P r (L_{α} < \sqrt{N} (μ - \bar{X}) < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

Następnie ponownie ułóż rozwiązanie dla , a przedział ufności będzie taki sam, jak przedział wiarygodności. $\mu$

Parametry skali:

W przypadku parametrów skali pliki pdf mają postać . Możemy wziąć , co odpowiada . Łączny rozkład próbkowania wynosi: $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p (X_{1} . . . X_{N} | s) = s^{- N} 0 < X_{1} . . . X_{N} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

Z którego wynika, że wystarczająca statystyka jest równa (Maksimum obserwacji). Teraz znajdujemy jego rozkład próbkowania: $X_{max}$

P r (X_{m a x} < y | s) = P r (X_{1} < y, X_{2} < y . . . X_{N} < y | s) = {(\frac{y}{s})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

Teraz możemy uczynić to niezależnym od parametru, przyjmując . Oznacza to, że naszą „kluczową ilość” podaje z która jest rozkładem . Możemy więc wybrać używając kwantyli beta, takich jak: $y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P r (L_{α} < Q < U_{α}) = 1 - α = U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

Zastępujemy kluczową ilość:

P r (L_{α} < s^{- 1} X_{m a x} < U_{α}) = 1 - α = P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

I jest nasz przedział ufności. W przypadku rozwiązania bayesowskiego z jeffreys przed:

p (s | X_{1} . . . X_{N}) = \frac{s^{- N - 1}}{\int_{X_{m a x}}^{\infty} r^{- N - 1} d r} = N (X_{m a x})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (s > t | X_{1} . . . X_{N}) = N (X_{m a x})^{N} \int_{t}^{\infty} s^{- N - 1} d s = {(\frac{X_{m a x}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

Teraz podłączamy przedział ufności i obliczamy jego wiarygodność

P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m a x}}{X_{m a x} U_{α}^{- 1}})}^{N} - {(\frac{X_{m a x}}{X_{m a x} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

I presto, mamy wiarygodność i zasięg. $1-\alpha$

— prawdopodobieństwo prawdopodobieństwa
źródło

Arcydzieło, dzięki! Miałem nadzieję, że odpowiedź może być taka: „przy obliczaniu średniej próbki z rozkładu normalnego 95% CI w rzeczywistości jest również 95% przedziałem wiarygodności” lub coś w tym rodzaju prostego. (Właśnie wymyślając tę rzekomą odpowiedź, nie mam pojęcia o konkretnych przykładach.)

— Wayne

Uważam, że częsty 95% przedział przewidywania / tolerancji odpowiada przedziałowi przewidywania Bayesa z regresją OLS i błędami normalnymi. Wygląda na to, że tak czy inaczej, porównując odpowiedź predykcji.lm z odpowiedzią symulowaną. Czy to prawda?

— Wayne,

Dla , jeśli użyjesz munduru przed i jeffreys przed , masz równoważność.

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

— probabilityislogic

Wielkie dzięki! Próbowałem wyjaśnić CI dla regresji, którą zrobiłem w kategoriach Przedziału ufności i po prostu nie łączy się on z laikami, którzy oczekują Wiarygodnego Przedziału. Ułatwia mi życie ... choć może szkodzi ogólnemu statystycznemu światu, ponieważ wzmocni nieporozumienie laika dotyczące CI.

— Wayne,

@Wayne - sytuacja jest nieco bardziej ogólna niż tylko rodziny w skali lokalizacji. Zwykle CI będzie równoważne wiarygodnemu przedziałowi, jeśli jest oparty na „wystarczającej statystyce” (jak te dwie były) tam, gdzie to istnieje. Jeśli nie ma wystarczającej statystyki, CI musi uzależnić się od tak zwanych „statystyk pomocniczych”, aby uzyskać wiarygodną interpretację przedziałów.

— probabilityislogic