Mam dość dobre doświadczenie praktyczne z próbkowaniem Metropolis-Hastings i Gibbs, ale chcę lepiej zrozumieć matematykę tych algorytmów. Jakie są dobre podręczniki lub artykuły, które dowodzą poprawności tych samplerów (więcej algorytmów też byłoby świetnych)?
Odpowiedzi:
W przypadku podręcznika i obszernego pokrycia następny jest bardzo umiarkowanie wyceniony.
Brooks i in. (red.), Handbook of Markov Chain Monte Carlo , Chapman & Hall / CRC, 2011.
Robert i Casella (2010) mają sporo teorii.
Nie jestem pewien, czy tego właśnie szukasz, ale kilka artykułów, które uznałem za przydatne na temat teoretycznych właściwości różnych algorytmów Metropolis-Hastings, to:
Optymalne skalowanie dla różnych algorytmów Metropolis-Hastings - Roberts i Rosenthal, 2001.
(To podsumowuje niektóre wcześniejsze wyniki marszu Okupu Metropolis i algorytmu Langevina dostosowanego do Metropolii).
The Random Walk Metropolis: łączenie teorii i praktyki poprzez studium przypadku - Sherlock, Fearnhead i Roberts, 2009
(Może to być dobry pomost między teoretycznymi właściwościami a praktycznym wykorzystaniem, jak sugeruje tytuł).
Książka Roberta i Caselli (wspomniana powyżej) jest bardzo dobrym i dokładnym zasobem, ale możesz również znaleźć te dwa zastosowania:
Markov Chain Monte Carlo in Practice - Gilks, Richardson & Spiegelhalter (1995)
Markov Chain Monte Carlo: Symulacja stochastyczna dla wnioskowania bayesowskiego - Gamerman (2006)
Oba mają również informacje na temat pobierania próbek Gibbsa. Podejrzewam, że przydatne mogą być również inne informacje na temat Łańcuchów Markowa. Ogólnie używam:
Ale jest też kilka dobrych informacji na ten temat w większości książek MCMC.