Dlaczego Bayesjanin nie może patrzeć na pozostałości?

W artykule „Dyskusja: Czy ekolodzy powinni zostać Bayesianami?” Brian Dennis przedstawia zaskakująco zrównoważony i pozytywny pogląd na statystyki bayesowskie, kiedy wydaje się, że jego celem jest ostrzeganie ludzi przed tym. Jednak w jednym akapicie, bez żadnych cytatów ani uzasadnień, mówi:

Widzisz, Bayesianie nie mogą patrzeć na swoje pozostałości. Naruszenie zasady prawdopodobieństwa oceny wyniku według tego, jak ekstremalne jest to w modelu. Dla Bayesianina nie ma złych modeli, tylko złe wierzenia.

Dlaczego Bayesjanin nie miałby dostępu do pozostałości? Jaki byłby na to odpowiedni cytat (tj. Kogo cytuje)?

Dennis, B.
Dyskusja: Czy ekolodzy powinni zostać Bayesianami?
Ecological Applications, Ecological Society of America , 1996 , 6, 1095-1103

— Mankka
źródło

Gdyby ten argument działał, częstokroć nie mogliby również zastosować zasady prawdopodobieństwa - z tego samego powodu.

— Glen_b

@Glen: analiza częstościowym nie narusza zasadę prawdopodobieństwa.

— Scortchi - Przywróć Monikę

@Glen: Częstotliwość naprawdę przywiązany do LP (słaba wersja, odpowiednik zasady wystarczalności - silna wersja jest po prostu niezgodna z częstym podejściem) musiałaby unikać sprawdzania modelu. Ci, którzy po prostu go podziwiają, cieszą się, gdy mogą go użyć do oszacowania parametrów określonego modelu i nadal mają mniej lub bardziej niezależne pomocnicze - resztki - pozostałe do sprawdzenia modelu w jakikolwiek stary sposób.

— Scortchi - Przywróć Monikę

Nawet gdy częsty dokonuje oszacowania ML, nadal narusza LP, ponieważ rozważa rozkład próbkowania MLE, aby znaleźć przedział ufności dla swojej oceny.

— Zen

@Zen: Nie narusza słabego LP, o ile przedział ufności zależy od danych tylko przez funkcję wiarygodności. Ale może wcześniej czy później naruszyć mocny LP, ustanawiając inny przedział ufności w oparciu o tę samą funkcję prawdopodobieństwa z innego eksperymentu z inną przestrzenią próbkowania.

— Scortchi - Przywróć Monikę

Odpowiedzi:

Oczywiście Bayesianie mogą spojrzeć na pozostałości! I oczywiście w analizie bayesowskiej występują złe modele. Może kilku Bayesianów w latach 70. poparło takie poglądy (i wątpię w to), ale w dzisiejszych czasach prawie nie znajdziesz żadnego Bayesian popierającego ten pogląd.

Nie czytałem tekstu, ale Bayesianie używają rzeczy takich jak czynniki Bayesa do porównywania modeli. W rzeczywistości Bayesjan może nawet obliczyć prawdopodobieństwo prawdziwości modelu i wybrać model, który jest bardziej prawdopodobny. Lub Bayesian może uśrednić dla różnych modeli, aby uzyskać lepszy model. Lub może użyć późniejszych kontroli predykcyjnych. Istnieje wiele opcji sprawdzania modelu i każdy może faworyzować takie lub inne podejście, ale stwierdzenie, że w analizie Bayesa nie ma złych modeli, nie ma sensu.

Zatem co najwyżej właściwsze byłoby stwierdzenie, że w niektórych ekstremalnych wersjach bayesianizmu (wersje ekstremalne, których, nawiasem mówiąc, prawie nikt nie używa w zastosowanych ustawieniach), nie wolno ci sprawdzać swojego modelu. Ale niż można powiedzieć, że w niektórych ekstremalnych wersjach częstości nie można również wykorzystywać danych obserwacyjnych. Ale po co marnować czas na omawianie tych głupich rzeczy, skoro możemy dyskutować, czy i kiedy, w zastosowanym otoczeniu, powinniśmy stosować metody bayesowskie, częste lub inne? To jest ważne, moim skromnym zdaniem.

Aktualizacja: OP poprosił o referencje kogoś, kto opowiada się za ekstremalną wersją Bayesa. Ponieważ nigdy nie czytałem żadnej ekstremalnej wersji Bayesa, nie mogę podać tego odniesienia. Ale zgaduję, że Savage może być takim odniesieniem. Nigdy nie czytam niczego, co napisał, więc mogę się mylić.

ps .: Pomyśl o problemie „dobrze skalibrowanego bayesowskiego” ( Dawid (1982), JASA , 77 , 379 ). Spójny subiektywistyczny bayesowski prekursor nie może zostać skalibrowany, więc nie dokonałby przeglądu swojego modelu / prognoz pomimo przytłaczających dowodów na to, że nie jest skalibrowany. Ale nie sądzę, aby ktokolwiek w praktyce mógł twierdzić, że jest tak spójny. Dlatego przegląd modelu jest ważny.

ps2 .: Podoba mi się również ten artykuł Efrona . Pełny odnośnik to: Efron, Bradley (2005). „Bayesianie, częstokroć i naukowcy”. Journal of American Statistics Association 100 (469).

— Manoel Galdino
źródło

Przyjąłem również, że zakaz ten nigdy nie był traktowany poważnie w praktyce, więc byłem zaskoczony, gdy przeczytałem to od Gelmana: - „Z pewnością nie chcę wracać do status quo z ok. 1990 r. W statystykach bayesowskich, w których uznano go za praktycznie nielegalne sprawdzanie dopasowania modelu do danych ”.

— Scortchi - Przywróć Monikę

Nie wiem, jak wyglądały statystyki bayesowskie w latach dziewięćdziesiątych. Ale trudno uwierzyć, że w zastosowanych ustawieniach Bayesianie nie sprawdzali swoich modeli. Może sprawdzili, ale nie powiedzieli!

— Manoel Galdino

\neq

$\neq$

Zdecydowanie zgadzam się, że nie jest to poważny problem, byłem po prostu ciekawy, czy ktoś o tym opublikował. Czy czytałeś kiedyś kogoś, kto opowiada się za tymi „ekstremalnymi wersjami bayesianizmu”?

— Mankka

Mogą patrzeć, ale nie dotykać. W końcu reszty są częścią danych, które nie niosą żadnych informacji o parametrach modelu, a ich wcześniejsze wyrażenie wyraża całą niepewność na ich temat - nie mogą zmienić swojego wcześniejszego na podstawie tego, co widzą w danych.

Załóżmy na przykład, że pasujesz do modelu Gaussa, ale zauważ resztę o wiele za dużo kurtozy. Być może twoja wcześniejsza hipoteza powinna być rozkładem t z niezerowym prawdopodobieństwem dla niskich stopni swobody, ale tak nie było - był to właściwie rozkład t z zerowym prawdopodobieństwem wszędzie, z wyjątkiem nieskończonych stopni swobody. Nic w prawdopodobieństwie nie może skutkować niezerowymi prawdopodobieństwami w obszarach gęstości tylnej, gdzie poprzednia gęstość wynosi zero. Zatem koncepcja ciągłego aktualizowania priorów w oparciu o prawdopodobieństwa z danych nie działa, gdy pierwotny uprzedni jest źle określony.

Oczywiście, jeśli wykonasz Google „sprawdzanie modelu bayesowskiego”, zobaczysz, że jest to parodia faktycznej praktyki bayesowskiej; jednak stanowi to pewną trudność dla argumentów typu logika nauki o wyższości bayesianizmu z powodów filozoficznych. Blog Andrew Gelmana jest interesujący na ten temat.

— Scortchi - Przywróć Monikę
źródło

Czy masz jakieś odniesienia do tej „trudności dla logiki nauki”?

— Mankka

Odniosłem się do Jaynesa, Teorii prawdopodobieństwa: logiki nauki , w której powtarzane stosowanie twierdzenia Bayesa do aktualizowania rozkładów prawdopodobieństwa w miarę pojawiania się nowych danych jest uważane za paradygmat wzrostu wiedzy naukowej. Jestem pewien, że radzi sobie z problemem zbyt wąskiego przeora, ale nie pamiętam, jak i jak zadowalająco. Zamierzam zmienić „wyższość ogólną” na „wyższość z powodów filozoficznych”, ponieważ wydaje się, że lepiej oddaje to, co miałem na myśli.

— Scortchi - Przywróć Monikę

Ten przykład wcześniejszego użycia bayesowskiego zastosowano w celu ograniczenia sporadycznego (2%) występowania niefizycznych wyników. Ten brak fizyczności przypisuje się niefizycznemu natychmiastowemu mieszaniu (leku w organizmie) i został skorygowany poprzez przyjęcie zerowego początkowego mieszania przy użyciu lepszego modelu. Wydaje się, że lepiej jest dopasować model do problemu, niż fałszować odpowiedzi, aby zachować zgodność z wcześniejszymi założeniami. (+1)

— Carl