Kiedy MCMC stało się powszechne?

Czy ktoś wie, w którym roku MCMC stało się powszechne (tj. Popularna metoda wnioskowania bayesowskiego)? Szczególnie pomocny byłby link do liczby opublikowanych artykułów MCMC (czasopism) w czasie.

bayesian mcmc history

— Ethan Arenson
źródło

Wątpię, czy ktokolwiek mógłby zapewnić jeden rok. Bardziej rozsądne jest rozważenie rozprzestrzeniania się MCMC w czasie. Powstał w latach 50. przy użyciu algorytmu Metropolis-Hastings, ale nie był szeroko stosowany i stosowany aż do pojawienia się stosunkowo niedrogiej mocy obliczeniowej od lat 80. Według mojej najlepszej wiedzy, pierwsze zastosowania były wówczas w bayesowskich technologiach rozpoznawania twarzy. Po drugie, począwszy od lat 90., wykorzystanie MCMC rozprzestrzeniło się na inne dziedziny, takie jak ekonomia i marketing w szkole w Chicago. Sprawdź Gilks & Spiegelhalter's Practical MCMC z 1996 roku .

— user332577,

To pytanie jest niejasne i wymaga opinii (nie ma przyjętej definicji potocznej lub popularnej). Dopuszcza dowolną liczbę prawdopodobnie poprawnych odpowiedzi.

— Glen_b

@Glen_b Myślę, że odpowiedź podana poniżej jest doskonała. Nie zgadzasz się A może napisałeś swój komentarz przed tą odpowiedzią? (Oboje mówią tylko „wczoraj”).

— Peter Flom - Przywróć Monikę

@Peter Mine pojawił się przed którąkolwiek odpowiedzią; najedź myszką na słowo „wczoraj” na każdym z nich (lub cokolwiek wskazującego upływ czasu od opublikowania), aby zobaczyć dokładny czas UTC. Myślę, że wskazana przez ciebie odpowiedź jest dobrą odpowiedzią częściową, ale pytanie nadal przyznałoby kilka zupełnie odmiennych ujęć bez dobrej podstawy do wyboru między nimi.

— Glen_b

Odpowiedzi:

Ten artykuł Christiana ( Xi'ana ) Roberta i George'a Caselli stanowi miłe podsumowanie historii MCMC. Z gazety (nacisk jest mój).

Pierwszym algorytmem MCMC może być to, co obecnie nazywamy algorytmem Metropolis, opublikowanym przez Metropolis i in. (1953). Pochodzi z tej samej grupy naukowców, którzy opracowali metodę Monte Carlo, a mianowicie naukowców z Los Alamos, głównie fizyków zajmujących się fizyką matematyczną i bombą atomową.

Algorytm Metropolis został później uogólniony przez Hastingsa (1970) i jego ucznia Peskuna (1973 1981)

Mimo że został nieco usunięty z wnioskowania statystycznego w sensie klasycznym i oparty na wcześniejszych technikach stosowanych w fizyce statystycznej, przełomowy artykuł Gemana i Gemana (1984) wprowadził próbkowanie Gibbsa na arenę zastosowań statystycznych. Ten artykuł jest również odpowiedzialny za nazwę próbkowania Gibbs

W szczególności Geman i Geman (1984) wywarli wpływ na Gelfanda i Smitha (1990), aby napisać artykuł, który jest prawdziwym punktem wyjścia do intensywnego stosowania metod MCMC przez społeczność statystyczną głównego nurtu . Wzbudził nowe zainteresowanie metodami bayesowskimi, obliczeniami statystycznymi, algorytmami i procesami stochastycznymi dzięki zastosowaniu algorytmów obliczeniowych, takich jak sampler Gibbs i algorytm Metropolis – Hastings.

Co ciekawe, wcześniejszy artykuł Tannera i Wonga (1987) miał zasadniczo te same składniki co Gelfand i Smith (1990), a mianowicie fakt, że symulacja z rozkładów warunkowych jest wystarczająca do asymptotycznej symulacji ze stawu. Dokument ten uznano za wystarczająco ważny być materiałem do dyskusji w Journal of the American Statistics Association, ale jego wpływ był w jakiś sposób ograniczony w porównaniu z Gelfandem i Smithem (1990).

Nie mogłem znaleźć liczby artykułów opublikowanych w czasie, ale oto wykres Google Ngram dotyczący liczby wzmianek w czasie. To mniej więcej zgadza się z poglądem, że MCMC stało się powszechne po pracy Gelfanda i Smitha z 1990 roku.

— knrumsey
źródło

Dziękuję Ci! Uznałbym, że 1990 jest najważniejszą datą w historii MCMC, ponieważ cztery artykuły Alana Gelfanda i Adriana Smitha ukazały się w tym samym roku w najlepszych czasopismach statystycznych i nagle wprowadzono koncepcję wykorzystania łańcuchów Markowa do symulacji. Pamiętam udział w przemówieniu Adriana Smitha w czerwcu 1989 r. W Seherbrooke (PQ), gdzie zademonstrował uniwersalność tego pomysłu, pokazując slajd z kilkoma liniami kodu (Fortran?).

— Xi'an,

Doskonała odpowiedź knrumsey daje pewną historię postępu ważnych prac akademickich w MCMC. Kolejnym aspektem wartym zbadania jest opracowanie oprogramowania ułatwiającego MCMC zwykłemu użytkownikowi. Metody statystyczne są często stosowane głównie przez specjalistów, dopóki nie zostaną zaimplementowane w oprogramowaniu, które pozwala zwykłemu użytkownikowi na ich wdrożenie bez programowania. Na przykład oprogramowanie BUGS miało swoją pierwszą wersję w 1997 roku. Wydaje się, że nie zmieniło to trajektorii wzrostu w fabule N-Grams, ale mogło mieć wpływ na powszechne stosowanie tej metody wśród użytkowników, którzy ją znaleźli. zastraszanie do programowania własnych procedur.

— Przywróć Monikę
źródło

Huh, w MCMC jest mały zwrot akcji około 1997 roku.

— muru

Dobrze zauważony - nie jestem pewien, czy byłaby to wystarczająco duża zmiana, aby była statystycznie znacząca, ale i tak zauważona.

— Przywróć Monikę

Oszacowanie wizualne, gdyby utrzymano nachylenie przed 1997 r., Zobaczylibyśmy około 0,000015% około 2004 r. (Ale rzeczywista wartość jest bliska 0,0000225%). To wzrost o 50%. Ale przypuszczam, że i tak liczby są zbyt małe.

— muru

Być może masz rację - dobre oczy!

— Przywróć Monikę

hmmm, BŁĘDY zostały zaprezentowane na konferencji Bayesian Statistics w Walencji w 1991 roku.

— Xi'an,