Przykład, w jaki sposób statystyki bayesowskie mogą oszacować parametry, które są bardzo trudne do oszacowania za pomocą metod częstych

Bayesowscy statystycy twierdzą, że „statystyki bayesowskie mogą oszacować parametry, które są bardzo trudne do oszacowania za pomocą metod częstych”. Czy następujący cytat zaczerpnięty z tej dokumentacji SAS mówi to samo?

Zapewnia wnioski, które są uzależnione od danych i są dokładne, bez polegania na asymptotycznym przybliżeniu. Wnioskowanie o małej próbce przebiega w taki sam sposób, jak w przypadku dużej próbki. Analiza bayesowska może również oszacować dowolne funkcje parametrów bezpośrednio, bez użycia metody „plug-in” (sposób na oszacowanie funkcjonałów poprzez podłączenie oszacowanych parametrów do funkcjonałów).

Widziałem podobne stwierdzenie w jakimś podręczniku, ale nie pamiętam gdzie. Czy ktoś może mi to wyjaśnić na przykładzie?

Mam zastrzeżenia do tego cytatu:

1. „Częstotliwość” to podejście do wnioskowania oparte na właściwościach częstotliwości wybranych estymatorów. Jest to niejasne pojęcie, ponieważ nie stwierdza nawet, że estymatorzy muszą się zbiegać, a jeśli postępują zgodnie z tym, w jaki sposób muszą się zbiegać. Na przykład bezstronność jest pojęciem częstym, ale nie może obejmować żadnej funkcji [parametru$\theta$] będące przedmiotem zainteresowania od czasu kolekcji przekształceń $\theta$które pozwalają na obiektywne oszacowanie jest bardzo ograniczone. Co więcej, estymator częstokształtny nie jest wytwarzany przez paradygmat, ale musi zostać najpierw wybrany przed dokonaniem oceny. W tym sensie estymator bayesowski jest estymatorem częstym, jeśli spełnia pewne własności częstokroć.
2. Wnioskowanie wynikające z podejścia bayesowskiego opiera się na rozkładzie tylnym, reprezentowanym przez jego gęstość $\pi(\theta|\mathfrak{D})$. Nie rozumiem, w jaki sposób można przypisać termin „dokładny”$\pi(\theta|\mathfrak{D})$Jest to wyjątkowo związane z wcześniejszą dystrybucją$\pi(\theta)$i jest dokładnie wywiedziony z twierdzenia Bayesa. Ale to nie wraca dokładnie wnioskowanie, że estymacja punktowa jest nie prawdziwa wartość parametru$\theta$i generuje dokładne stwierdzenia prawdopodobieństwa tylko w ramach dostarczonych przez parę przed x prawdopodobieństwem . Zmiana jednego terminu w parze powoduje modyfikację tylnej i wnioskowania, podczas gdy nie ma ogólnego argumentu za obroną pojedynczego przejęcia lub prawdopodobieństwa.
3. Podobnie, inne stwierdzenia prawdopodobieństwa, takie jak „prawdziwy parametr ma prawdopodobieństwo, że 0,95 spadnie w 95% wiarygodnym przedziale”, znalezione na tej samej stronie tej dokumentacji SAS, mają znaczenie w odniesieniu do ram dystrybucji tylnej, ale nie w wartości bezwzględnej.
4. Z perspektywy obliczeniowej prawdą jest, że podejście bayesowskie często zwraca dokładne lub przybliżone odpowiedzi w przypadkach, gdy standardowe podejście klasyczne zawodzi. Dotyczy to na przykład ukrytych [lub brakujących] modeli zmiennych $$f(x|\theta)=\int g(x,z|\theta)\,\text{d}z$$ gdzie $g(x,z|\theta)$ to łączna gęstość dla pary $(X,Z)$ i gdzie $Z$ nie obserwuje się, Szacowanie produkcji $\theta$ i jego tylnej przez symulację pary $(\theta,\mathfrak{Z})$może okazać się znacznie łatwiejsze niż oszacowanie maksymalnego prawdopodobieństwa [częstokroć?] Praktycznym przykładem tego ustawienia jest koalescencyjny model Kingmana w genetyce populacji , w którym ewolucja populacji od wspólnego przodka obejmuje utajone zdarzenia na drzewach binarnych. Ten model może być obsługiwany przez [przybliżone] wnioskowanie bayesowskie za pomocą algorytmu zwanego ABC, mimo że istnieją również rozdzielczości oprogramowania nie bayesowskiego .
5. Jednak nawet w takich przypadkach nie sądzę, aby wnioskowanie bayesowskie było jedynym możliwym rozwiązaniem. Techniki uczenia maszynowego, takie jak sieci neuronowe, losowe lasy, głębokie uczenie się, można sklasyfikować jako metody częste, ponieważ ćwiczą na próbce poprzez krzyżową weryfikację, minimalizując kryterium błędu lub odległości, które można postrzegać jako oczekiwanie [zgodnie z prawdziwym modelem] aproksymowane przez średnią z próby. Na przykład, model koalescencyjny Kingmana może być również obsługiwany przez nie-bayesowskie rozdzielczości oprogramowania .
6. Ostatnim punktem jest to, że do oszacowania punktowego podejście bayesowskie może dawać szacunki wtyczek. Dla niektórych funkcji strat, które nazwałem stratami wewnętrznymi , estymator Bayesa transformacji$\mathfrak{h}(\theta)$ jest transformacja $\mathfrak{h}(\hat\theta)$ estymatora Bayesa z $\theta$.