Czy istnieje coś więcej niż prawdopodobieństwo bayesianizmu?

Jako student fizyki doświadczyłem wykładu „Dlaczego jestem Bayesianem” może pół tuzina razy. Zawsze jest tak samo - prezenter z satysfakcją wyjaśnia, w jaki sposób interpretacja bayesowska przewyższa interpretację częstokrzyską rzekomo stosowaną przez masy. Wspominają o regule Bayesa, marginalizacji, przeorach i późniejszych.

Jaka jest prawdziwa historia?

Czy istnieje uzasadniona dziedzina zastosowania statystyki dla osób często korzystających z usług? (Z pewnością podczas pobierania próbek lub rzucania kostką wiele razy musi to obowiązywać?)

Czy istnieją przydatne filozofie probabilistyczne poza „bayesowskimi” i „częstymi”?

Bayesowska interpretacja prawdopodobieństwa wystarcza do celów praktycznych. Ale nawet biorąc pod uwagę bayesowską interpretację prawdopodobieństwa, statystyki mają coś więcej niż prawdopodobieństwo , ponieważ podstawą statystyki jest teoria decyzji, a teoria decyzji wymaga nie tylko klasy modeli prawdopodobieństwa, ale także specyfikacji kryteriów optymalizacyjnych dla reguły decyzji. Zgodnie z kryteriami Bayesa optymalne reguły decyzyjne można uzyskać dzięki regule Bayesa; ale wiele metod częstych jest uzasadnionych na podstawie minimax i innych kryteriów decyzyjnych.

„Bayesowski” i „częsty” nie są „filozofiami probabilistycznymi”. Są to szkoły myśli i praktyki statystycznej zajmujące się głównie określaniem niepewności i podejmowaniem decyzji, chociaż często wiążą się z konkretną interpretacją prawdopodobieństwa. Prawdopodobnie najczęstszym postrzeganiem, choć niepełnym, jest prawdopodobieństwo jako subiektywna kwantyfikacja przekonania w porównaniu z prawdopodobieństwem jako częstotliwościami długookresowymi. Ale nawet one nie wykluczają się wzajemnie. Być może nie zdajesz sobie z tego sprawy, ale zdeklarowani Bayesianie nie zgadzają się w konkretnych kwestiach filozoficznych dotyczących prawdopodobieństwa.

Statystyka bayesowska i częste nie są również ortogonalne. Wygląda na to, że „częsty” oznacza „nie bayesowski”, ale to nieprawda. Na przykład całkowicie uzasadnione jest zadawanie pytań o właściwości estymatorów bayesowskich i przedziały ufności przy powtarzanym próbkowaniu. Jest to fałszywa dychotomia utrwalona przynajmniej częściowo przez brak wspólnej definicji terminów bayesowskich i częstych (my, statystycy, nie możemy winić za to samych siebie).

Do zabawnej, sprytnej i przemyślanej dyskusji zasugeruję „Sprzeciw wobec statystyki bayesowskiej” Gelmana, komentarze i duplikę, dostępne tutaj:

http://ba.stat.cmu.edu/vol03is03.php

Trwa nawet dyskusja na temat przedziałów ufności w fizyce IIRC. Aby uzyskać bardziej szczegółowe dyskusje, możesz wrócić do zawartych w nich referencji. Jeśli chcesz zrozumieć zasady wnioskowania bayesowskiego, proponuję książkę Bernando i Smitha, ale istnieje wiele, wiele innych dobrych referencji.

Spójrz na ten artykuł przez Cosma Shalizi i Andrew Gelman o filozofii i bayesianizmu. Gelman jest wybitnym bayesianinem, a Shalizi częstym!

Spójrz także na tę krótką krytykę Shaliziego, w której wskazuje on na konieczność sprawdzania modelu i kpiąc z argumentów holenderskiej książki używanych przez niektórych Bayesian.

I wreszcie, myślę, że skoro jesteś fizykiem, możesz polubić ten tekst , w którym autor wskazuje na „obliczeniową teorię uczenia się” (której szczerze mówiąc nic nie wiem), która mogłaby być alternatywą dla bayesianizmu , o ile mogę to zrozumieć (niewiele).

ps .: jeśli skorzystasz z linków, zwłaszcza ostatniego i masz opinię na temat tekstu (i dyskusji, które nastąpiły po tekście na blogu autora )

ps.2: Moje własne zdanie na ten temat: zapomnij o kwestii obiektywnego i subiektywnego prawdopodobieństwa, zasady prawdopodobieństwa i argumentu o konieczności zachowania spójności. Metody bayesowskie są dobre, gdy pozwalają dobrze wymodelować problem (na przykład, używając metody poprzedzającej, aby wywołać unimodalny tył, gdy istnieje prawdopodobieństwo bimodalne itp.) I to samo dotyczy metod częstych. Zapomnij także o problemach z wartością p. Mam na myśli, że wartość p jest do bani, ale ostatecznie są miarą niepewności, w duchu tego, jak Fisher o tym myślał.

Dla mnie ważną rzeczą w bayesianizmie jest to, że uważa prawdopodobieństwo za mające to samo znaczenie, które intuicyjnie stosujemy w życiu codziennym, a mianowicie stopień prawdopodobieństwa prawdziwości zdania. Bardzo niewielu z nas naprawdę używa prawdopodobieństwa, by oznaczać ściśle długą częstotliwość w codziennym użytkowaniu, choćby dlatego, że często interesują nas określone zdarzenia, które nie mają częstotliwości długiego przebiegu, na przykład jakie jest prawdopodobieństwo, że emisje paliw kopalnych powodują znaczne zmiany klimatu ? Z tego powodu statystyki bayesowskie są znacznie mniej podatne na błędną interpretację niż statystyki częstokrzyskie.

Bayesianizm ma również marginalizację, priory, maksymalne, grupy transformacyjne itp., Które mają swoje zastosowania, ale dla mnie kluczową korzyścią jest to, że definicja prawdopodobieństwa jest bardziej odpowiednia dla rodzajów problemów, które chcę rozwiązać.

To nie czyni statystyk bayesowskich lepszymi niż statystyki częstokrzyskie. Wydaje mi się, że statystyki dla osób często korzystających z badań są dobrze dostosowane do problemów w kontroli jakości (w których powtarzano próbkowanie z populacji) lub w których zaprojektowano eksperymenty, a nie analizę wcześniej zebranych danych (chociaż leży to raczej poza moją wiedzą, więc to tylko intuicja).

Jako inżynier jest to kwestia „koni na kursy”, a ja mam oba zestawy narzędzi w moim zestawie narzędzi i używam ich regularnie.

Istnieją nie-bayesowskie systemy lub filozofie prawdopodobieństwa - Baconian i Pascalian, np. Jeśli interesujesz się epistemologią i filozofią nauki, możesz cieszyć się debatami - w przeciwnym razie potrząsniesz głową i dojdziesz do wniosku, że tak naprawdę interpretacja Bayesa jest wszystko tam jest.

Dla dobrych dyskusji

• Cohen, LJ Wprowadzenie do filozofii indukcji i prawdopodobieństwa (Clarendon Press; Oxford University Press, Oxford New York, 1989)
• Schum, DA Podstawy dowodowe wnioskowania probabilistycznego (Wiley, New York, 1994).