MCMC z algorytmem Metropolis-Hastings: wybór propozycji

Muszę wykonać symulację, aby ocenić całkę funkcji 3-parametrowej, mówimy , która ma bardzo skomplikowaną formułę. Poproszono o użycie metody MCMC w celu jej obliczenia i zaimplementowania algorytmu Metropolis-Hastings w celu wygenerowania wartości rozłożonych jako , i zasugerowano użycie 3 różnych normalnych jako rozkładu propozycji. Czytając kilka przykładów na ten temat, zauważyłem, że niektóre z nich używają normalnej ze stałymi parametrami a niektóre ze zmienną średnią , gdzie jest ostatnią akceptowaną wartością w podziale według . Mam wątpliwości co do obu podejść:$f$$f$$N(\mu, \sigma)$$N(X, \sigma)$$X$$f$

1) Jakie jest znaczenie wyboru ostatniej zaakceptowanej wartości jako nowego środka dystrybucji naszych propozycji? Moja intuicja mówi, że powinno to gwarantować, że nasze wartości będą bliższe wartościom rozłożonym jako a szanse na akceptację byłyby większe. Ale czy to nie koncentruje zbytnio naszej próbki? Czy zagwarantowane jest, że jeśli otrzymam więcej próbek, łańcuch się zatrzyma?$f$

2) Czy wybór stałych parametrów (ponieważ jest naprawdę trudny do analizy) nie byłby naprawdę trudny i zależałby od pierwszej próbki, którą musimy wybrać, aby uruchomić algorytm? W takim przypadku, jakie byłoby najlepsze podejście do znalezienia, które z nich jest lepsze?$f$

Czy jedno z tych podejść jest lepsze od drugiego, czy to zależy od przypadku?

Mam nadzieję, że moje wątpliwości są jasne i byłbym zadowolony, gdyby można było podać literaturę (przeczytałem kilka artykułów na ten temat, ale więcej jest lepszych!)

Z góry dziękuję!

1) Możesz pomyśleć o tej metodzie jako o podejściu przypadkowym. Kiedy rozkład propozycji jest powszechnie nazywany algorytmem metropolii. Jeśli jest zbyt mała, będziesz miał wysoki wskaźnik akceptacji i bardzo powoli będziesz badać rozkład docelowy. W rzeczywistości, jeśli jest zbyt mała, a dystrybucja jest multimodalna, próbnik może utknąć w określonym trybie i nie będzie w stanie w pełni zbadać dystrybucji docelowej. Z drugiej strony, jeśli jest zbyt duża, wskaźnik akceptacji będzie zbyt niski. Ponieważ masz trzy wymiary, rozkład propozycji miałby macierz kowariancji$x \mid x^t \sim N( x^t, \sigma^2)$$\sigma^2$$\sigma^2$$\sigma^2$$\Sigma$które prawdopodobnie będą wymagać różnych wariancji i kowariancji dla każdego wymiaru. Wybór odpowiedniego może być trudny.$\Sigma$

2) Jeśli rozkład propozycji wynosi zawsze , to jest to niezależny algorytm Metropolis-Hastings, ponieważ rozkład propozycji nie zależy od bieżącej próbki. Ta metoda działa najlepiej, jeśli rozkład propozycji jest dobrym przybliżeniem rozkładu docelowego, z którego chcesz próbkować. Masz rację, że wybranie dobrego normalnego przybliżenia może być trudne.$N(\mu, \sigma^2)$

Powodzenie żadnej z metod nie powinno zależeć od wartości początkowej próbnika. Bez względu na to, od czego zaczniesz, łańcuch Markowa powinien ostatecznie zbiegać się z rozkładem docelowym. Aby sprawdzić zbieżność, możesz uruchomić kilka łańcuchów z różnych punktów początkowych i wykonać diagnostykę zbieżności, taką jak diagnostyka zbieżności Gelmana-Rubina.