Czy istnieje związek między empirycznymi Bayesami a efektami losowymi?

Niedawno przeczytałem o empirycznym Bayesie (Casella, 1985, Wprowadzenie do empirycznej analizy danych Bayesa) i wyglądało to bardzo podobnie do modelu efektów losowych; w tym, że oba szacunki skurczyły się do średniej globalnej. Ale nie przeczytałem go do końca ...

Czy ktoś ma wgląd w podobieństwo i różnice między nimi?

— anonimowy
źródło

Empiryczne Bayesa można stosować w sytuacjach z efektami losowymi lub bez nich - EB po prostu odnosi się do podejść Bayesa, które szacują, na podstawie danych, parametry (czasami nazywane hiperparametrami) wcześniejszego rozkładu - jest to metoda szacowania, podczas gdy modele efektów losowych są podejściem do modelowanie skorelowanych danych. Być może przykład, który widziałeś, polegał na oszacowaniu modelu efektów losowych przy użyciu empirycznych Bayesa i dlatego łączysz te dwa.

— Makro

Casella, nie Cassella!

— Xi'an

Główną różnicą jest to, że modele efektów losowych są modelami (w tym efektem losowym), podczas gdy empiryczne techniki Bayesa są technikami wnioskowania: np. Można uruchomić empiryczną estymację Bayesa na modelu efektu losowego ... Metody empiryczne Bayesa mają zastosowanie w każdej sytuacji gdzie można użyć zwykłej metody Bayesa, nie tylko do modeli efektów losowych.

— Xi'an

Powiązane pytanie: Ujednolicony pogląd na skurcz: jaka jest relacja (jeśli występuje) między paradoksem Stein'a, regresją grzbietu i losowymi efektami w modelach mieszanych?

— ameba mówi Przywróć Monikę

W połowie lat 70. w JASA znajduje się naprawdę świetny artykuł na temat estymatora Jamesa-Steina i empirycznej estymacji Bayesa ze szczególnym zastosowaniem do przewidywania średnich mrugnięć dla baseballistów. Wgląd, jaki mogę dać na ten temat, jest wynikiem Jamesa i Steina, którzy ze zdziwieniem świata statystycznego pokazali, że dla wielowymiarowego rozkładu normalnego w trzech lub więcej wymiarach MLE, który jest wektorem średnich współrzędnych, jest niedopuszczalny.

Dowód został osiągnięty poprzez wykazanie, że estymator, który zmniejsza średni wektor w kierunku początku, jest jednakowo lepiej oparty na średnim błędzie kwadratowym jako funkcji straty. Efron i Morris wykazali, że w problemie regresji wielowymiarowej przy użyciu empirycznego podejścia Bayesa estymatory, do których dochodzą, to estymatory skurczu typu Jamesa-Steina. Korzystają z tej metodologii, aby przewidzieć średnie wyniki mrugnięcia w ostatnim sezonie dla baseballistów z głównych lig w oparciu o ich wyniki z wczesnego sezonu. Szacunek przenosi średnią indywidualną każdego gracza do ogólnej średniej wszystkich graczy.

Myślę, że to wyjaśnia, jak takie estymatory mogą powstawać w wielowymiarowych modelach liniowych. Nie łączy go całkowicie z żadnym konkretnym modelem efektów mieszanych, ale może być dobrą przewagą w tym kierunku.

Niektóre referencje :

B. Efron i C. Morris (1975), Analiza danych za pomocą estymatora Stein i jego uogólnienia , J. Amer. Stat. Dr hab. , vol. 70, nr 350, 311–319.
B. Efron i C. Morris (1973), reguła estymacji Stein i jej konkurenci - empiryczne podejście Bayesa , J. Amer. Stat. Dr hab. , vol. 68, nr 341, 117–130.
B. Efron i C. Morris (1977), paradoks statystyczny Steina , Scientific American , vol. 236, nr 5, 119–127.
G. Casella (1985), Wprowadzenie do empirycznej analizy danych Bayesa , Amer. Statystyka , vol. 39, nr 2, 83–87.

— Michael R. Chernick
źródło

Nie do końca powiązane, ale nieco więcej na temat (nie) dopuszczalności wyników znajduje się w tym pytaniu .

— kardynał

Umieściłem link do artykułu, który moim zdaniem odnosi się do punktu (1) pod odnośnikami, ale ponieważ Efron & Morris napisał cały szereg artykułów na pokrewne tematy w tym okresie, nie jest jasne, który z nich był tak naprawdę odnosi się do. Próbowałem także dostosować formatowanie i pisownię. Sprawdź, czy nie wprowadziłem przypadkowo żadnych błędów i możesz edytować lub przywracać dowolne z moich.

— kardynał

W poście umieściłem linki do autorytatywnych archiwów, ale niektóre lub wszystkie artykuły można znaleźć w innych (mniej stabilnych) źródłach w Internecie.

— kardynał

Dzięki za opublikowanie artykułu w Efron i Morris. Przypomnienie o lepszych dniach, kiedy Don Kessinger, Ron Santo i Billy Williams grali dla Cubs, a Scientific American nadal publikował artykuły warte przeczytania.

— Ringold

Niedawno pojawiła się bardzo niedawna monografia Brada Efrona „ Wnioskowanie na dużą skalę” . Mimo swojego tytułu, chodzi o empiryczne Bayes! (Zobacz tutaj moją recenzję książki.)

— Xi'an