Jaki byłby przykład naprawdę prostego modelu o niewiarygodnym prawdopodobieństwie?

Przybliżone obliczenia bayesowskie to naprawdę fajna technika dopasowania w zasadzie dowolnego modelu stochastycznego, przeznaczona dla modeli, w których prawdopodobieństwo jest trudne (powiedzmy, możesz próbkować z modelu, jeśli naprawisz parametry, ale nie możesz obliczyć prawdopodobieństwa numerycznie, algorytmicznie lub analitycznie ). Wprowadzając publiczność w przybliżeniu obliczenia bayesowskie (ABC), dobrze jest użyć przykładowego modelu, który jest naprawdę prosty, ale wciąż nieco interesujący i który ma mało prawdopodobne prawdopodobieństwo.

Jaki byłby dobry przykład naprawdę prostego modelu, który wciąż ma mało prawdopodobne prawdopodobieństwo?

— Rasmus Bååth
źródło

Twój przykład skarpet jest naprawdę prosty i w większości trudny do rozwiązania ...

— Xi'an,

Ps: Przykładowy skarpetka link ...

— Xi'an

Miałem nadzieję, że skarpetki będą trudne, ale udowodniłeś, że tak nie jest, prawda? :)

— Rasmus Bååth,

To dobre pytanie! W literaturze jest wiele przykładów zabawek, ale wydaje mi się to trochę sztuczne. Byłoby miło mieć naprawdę prosty model motywowany prawdziwą aplikacją o niewiarygodnym prawdopodobieństwie. Wydaje mi się, że pamiętam, jak David Cox prezentował coś w tym stylu, ale nie widziałem, żeby to opublikowano ...

— Dennis Prangle,

Odpowiedzi:

Dwie dystrybucje, które są często używane w literaturze to:

Rozkład g-i-k. Jest to zdefiniowane przez jego funkcję kwantylową (odwrotny cdf), ale ma nieuchwytną gęstość. Rayner i MacGillivray (2002) są dobrym ich przeglądem, a jednym z wielu artykułów ABC, które wykorzystują go jako przykład zabawki, są Drovandi i Pettitt (2011) .
Stabilne rozkłady alfa. Są one określone przez ich charakterystyczną funkcję, ale mają trudną do zagęszczenia gęstość, z wyjątkiem kilku szczególnych przypadków. Ma to zastosowanie w finansach i jest często stosowane w kolejnych dokumentach ABC, na przykład Yildirim i in. (2013) .

— Dennis Prangle
źródło

Rozkład g-i-k jest bardzo dobrym przykładem, w którym funkcja kwantylu jest łatwa do wyrażenia, podczas gdy funkcja prawdopodobieństwa nie jest w ogóle dostępna:

rozkład -STABLE mniej prosty wyjaśnić początkujących.

Q (u; A, B, g, k) = A + B [1 + c \frac{1 - \exp {- g Φ (u)}}{1 + \exp {- g Φ (u)}}] {1 + Φ (u)^{2}}^{k} Φ (u)

$Q(u;A,B,g,k)=A + B\left[1+c\dfrac{1-\exp\{-g\Phi(u)\}}{1+\exp\{-g\Phi(u)\}}\right]\{1+\Phi(u)^2\}^k\Phi(u)$

α

$\alpha$

— Xi'an,

Czy ktoś mógłby dodać przykłady sytuacji, które można by modelować z tymi dystrybucjami?

— przypuszcza

Jednym z przykładów, z którym się zetknąłem kilka tygodni temu i jest bardzo podobny do prostoty jest następujący: biorąc pod uwagę oryginalny normalny zestaw danych

x_{1}, \dots, x_{n} \overset{iid}{\sim} N (θ, σ^{2}),

$x_1,\ldots,x_n\stackrel{\text{iid}}{\sim}\text{N}(\theta,\sigma^2)\,,$

S (x_{1}, \dots, x_{n}) = (med (x_{1}, \dots, x_{n}), mad (x_{1}, \dots, x_{n})),

$S(x_1,\ldots,x_n)=(\text{med}(x_1,\ldots,x_n),\text{mad}(x_1,\ldots,x_n))\,,$

— Xi'an
źródło

Tylko dlatego, że gęstość spoiny jest trudna do zanotowania, nie oznacza, że nie ma ona formy zamkniętej! W tym wątku „nietykalny” zaczyna wydawać się kwestią opinii. Być może mógłbyś to wyjaśnić, tłumacząc, co rozumiesz przez „trudny”?

— whuber

Ponieważ nie znam nikogo, kto byłby w stanie obliczyć tę gęstość, nazywam ją trudną ... Ponieważ nie mam programu komputerowego, który mógłby wygenerować wartość liczbową tego prawdopodobieństwa, jestem zmuszony użyć algorytmu ABC.

— Xi'an

ABC nie oblicza prawdopodobieństwa, ale wykorzystuje symulacje z danych, aby dostarczyć próbkę parametrów, która jest przybliżeniem prawdziwej tylnej. Na koniec dnia / obliczeń nie jestem mądrzejszy o funkcji prawdopodobieństwa i nie mogę wygenerować wartości liczbowej dla

L (θ | x_{1}, \dots, x_{n})

$L(\theta|x_1,\ldots,x_n)$ .

— Xi'an,

@whuber Gdyby można było z powodzeniem obliczyć prawdopodobieństwo, przykład nie byłby bardzo odpowiedni do zademonstrowania algorytmu aproksymacji bocznych bez obliczania prawdopodobieństwa

\times

$\times$ wcześniejsze produkty.

— Juho Kokkala,

@ whuber Myślę, że twoja interpretacja (2) w komentarzu rozpoczynającym się od „Zastanawiam się” jest co najmniej zasadniczo zamierzona. Nie rozumiem jednak twojej ostatniej uwagi „chyba że wykonanie algorytmu ABC zajmuje dużo czasu” - chodzi o to, że zamiast tego można uniknąć kosztownej oceny prawdopodobieństwa.

— Juho Kokkala,