Jakie są wady analizy bayesowskiej?

Jakie są praktyczne zastrzeżenia do stosowania bayesowskich metod statystycznych w jakimkolwiek kontekście? Nie, nie mam na myśli zwykłego dbania o wybór przeora. Będę zachwycony, jeśli nie otrzyma odpowiedzi.

Dam ci odpowiedź. Właściwie cztery wady. Zauważ, że żadne z tych zastrzeżeń nie powinno prowadzić do analizy częstokroć, ale korzystanie z bayesowskich ram ma wiele wad:

1. Wybór przeora. Jest to zwykły karcenie z jakiegoś powodu, chociaż w moim przypadku nie jest to zwykłe „priory są subiektywne!” ale wymyślenie przeora, który jest dobrze uzasadniony i faktycznie reprezentuje twoją najlepszą próbę podsumowania przeora, jest w wielu przypadkach bardzo pracochłonne. Na przykład cały cel mojej pracy doktorskiej można podsumować jako „oszacowanie priorytetów”.
2. Jest to intensywne obliczeniowo. Szczególnie w przypadku modeli obejmujących wiele zmiennych. W przypadku dużego zestawu danych z szacowanymi wieloma zmiennymi bardzo dobrze może być on zbyt intensywny obliczeniowo, szczególnie w pewnych okolicznościach, w których danych nie można łatwo wrzucić do klastra lub podobnego. Niektóre sposoby rozwiązania tego problemu, takie jak zwiększone dane zamiast MCMC, są nieco teoretycznie trudne, przynajmniej dla mnie.
3. Rozkłady późniejsze są nieco trudniejsze do włączenia do metaanalizy, chyba że podano częsty, parametryczny opis rozkładu.
4. W zależności od tego, dla jakiego czasopisma przeznaczona jest analiza, albo ogólnie użycie Bayesa, albo wybór priorytetów, daje artykułowi nieco więcej punktów, w których recenzent może się w nim zagłębić. Niektóre z nich są uzasadnionymi zastrzeżeniami recenzentów, ale niektóre po prostu wynikają z natury Bayesa i tego, jak dobrze znają ją ludzie w niektórych dziedzinach.

Żadna z tych rzeczy nie powinna cię powstrzymywać. Rzeczywiście, żadna z tych rzeczy mnie nie powstrzymała i mam nadzieję, że wykonanie analizy bayesowskiej pomoże rozwiązać co najmniej numer 4.

Z natury jestem Bayesianinem, ale na ogół jestem częstym praktykiem. Powodem tego jest zwykle to, że prawidłowe wykonanie pełnej analizy bayesowskiej (zamiast np. Rozwiązań MAP) dla rodzajów problemów, którymi jestem zainteresowany, jest trudne i wymaga intensywnych obliczeń. Często potrzebna jest pełna analiza bayesowska, aby naprawdę zobaczyć przewagę tego podejścia nad ekwiwalentami częstych.

Dla mnie kompromis jest zasadniczo wyborem między metodami bayesowskimi, które są koncepcyjnie eleganckie i łatwe do zrozumienia, ale trudne do wdrożenia w praktyce, a metodami częstymi, które są koncepcyjnie niewygodne i subtelne (spróbuj wyjaśnić, jak dokładnie interpretować test hipotez lub dlaczego nie ma 95% prawdopodobieństwa, że ​​prawdziwa wartość leży w 95% przedziale ufności), ale które dobrze nadają się do łatwych do wdrożenia rozwiązań „książki kucharskiej”.

Konie na kursy.

Z czysto praktycznego punktu widzenia nie jestem fanem metod, które wymagają wielu obliczeń (mam na myśli sampler Gibbs i MCMC, często używane w ramach Bayesa, ale dotyczy to również np. Technik bootstrap w analizie częstych). Powodem jest to, że samo debugowanie (testowanie implementacji, sprawdzanie niezawodności w odniesieniu do założeń itp. ) Wymaga szeregu symulacji Monte Carlo, a ty jesteś szybko w obliczu obliczeniowym. Wolę, aby podstawowe techniki analizy były szybkie i deterministyczne, nawet jeśli są jedynie przybliżone.

Jest to oczywiście czysto praktyczny zarzut: przy nieskończonych zasobach obliczeniowych sprzeciw ten zniknąłby. Dotyczy to tylko podzbioru metod bayesowskich. Jest to również bardziej preferencyjne, biorąc pod uwagę mój przepływ pracy.

Czasami istnieje proste i naturalne „klasyczne” rozwiązanie problemu, w którym to przypadku wymyślna metoda bayesowska (szczególnie z MCMC) byłaby przesada.

Ponadto w przypadku problemów ze zmiennym typem selekcji rozważenie czegoś w rodzaju karanego prawdopodobieństwa może być łatwiejsze i bardziej jasne; może istnieć przeor na modelach, który daje równoważne podejście bayesowskie, ale sposób, w jaki przeor odpowiada ostatecznemu wynikowi, może być mniej wyraźny niż związek między karą a osiągnięciem.

Wreszcie, metody MCMC często wymagają eksperta zarówno do oceny konwergencji / mieszania, jak i do zrozumienia wyników.

Jestem stosunkowo nowy w stosowaniu metod bayesowskich, ale jedno co mnie denerwuje to to, że podczas gdy rozumiem uzasadnienie priorytetów (tj. Nauka jest kumulatywnym przedsięwzięciem, więc w przypadku większości pytań istnieje pewna ilość wcześniejszych doświadczeń / myślenia, które powinny poinformować o tym interpretacja danych), nie podoba mi się, że podejście bayesowskie zmusza cię do przesunięcia podmiotowości na początek analizy, co uzależnia wynik końcowy. Uważam, że jest to problematyczne z dwóch powodów: 1) niektórzy gorzej zorientowani czytelnicy nie zwracają nawet uwagi na przeory i interpretują wyniki bayesowskie jako nieprzewidziane; 2) o ile surowe dane nie są dostępne, czytelnikom trudno jest przeformułować wyniki w swoich subiektywnych priorytetach. Właśnie dlatego wolę wskaźniki prawdopodobieństwa,

(Sprytni krytycy zauważą, że nawet iloraz prawdopodobieństwa jest „warunkowy” w tym sensie, że zależy od parametryzacji porównywanych modeli; jest to jednak cecha wspólna dla wszystkich metod, częstych, bayesowskich i prawdopodobieństwa)

Teoria decyzji jest podstawową teorią, na której działają statystyki. Problem polega na znalezieniu dobrej (w pewnym sensie) procedury wydawania decyzji na podstawie danych. Jednak rzadko istnieje jednoznaczny wybór procedury w sensie minimalizacji oczekiwanej straty, więc należy wybrać inne kryteria, aby wybrać spośród nich. Wybór procedur Bayesa w odniesieniu do niektórych wcześniejszych jest jednym z tych kryteriów, ale nie zawsze może być to, czego chcesz. Minimax może być w niektórych przypadkach ważniejszy lub bezstronność.

Każdy, kto twierdzi, że częstokroć są w błędzie, Bayesianie lub mylnie, w większości ujawnia swoją niewiedzę dotyczącą statystyk.

Od pewnego czasu chciałem się bardziej uczyć o Bayesowskim podejściu do modelowania, aby pozbyć się mojego pobieżnego zrozumienia (kodowałem samplery Gibbs w pracy dyplomowej, ale nigdy nie zrobiłem nic prawdziwego). Po drodze jednak myślałem, że niektóre z prac Briana Dennisa były prowokujące i żałowałem, że nie mogłem znaleźć przyjaciela z Bayesian (tych, którzy nie byli w szafie), aby przeczytać gazety i usłyszeć ich kontrapunkty. Oto artykuły, o których mówię, ale cytat, który zawsze pamiętam

Bycie Bayesianem oznacza, że ​​nigdy nie musisz mówić, że się mylisz.

http://faculty.washington.edu/skalski/classes/QERM597/papers/Dennis_1996.pdf http://classes.warnercnr.colostate.edu/nr575/files/2011/01/Lele-and-Dennis-2009.pdf

Jakie są otwarte problemy w statystykach bayesowskich z kwartalnego biuletynu ISBA przedstawiają 5 problemów ze statystykami bayesowskimi różnych liderów w tej dziedzinie, przy czym # 1 nudnie to „Wybór modelu i testowanie hipotez”.