Pytania otagowane jako mcmc

Algorytmy MCMC, takie jak próbkowanie Metropolis-Hastings i Gibbs, są sposobami próbkowania ze wspólnych rozkładów tylnych. Wydaje mi się, że rozumiem i potrafię dość łatwo wdrożyć pospieszanie metropolii - po prostu wybierasz punkty początkowe i „chodzisz po przestrzeni parametrów” losowo, kierując się gęstością a posteriori i gęstością propozycji. Próbkowanie Gibbsa wydaje …

15 bayesian  mcmc  gibbs 

Przełączanie etykiet (tj. Rozkład tylny jest niezmienny w stosunku do przełączania etykiet składników) jest problematycznym problemem przy użyciu MCMC do oszacowania modeli mieszanin. Czy istnieje standardowa (jak w powszechnie akceptowanej) metodologia radzenia sobie z tym problemem? Jeśli nie ma standardowego podejścia, jakie są zalety i wady wiodących podejść do rozwiązania …

15 bayesian  mcmc  mixture 

Próbuję zrozumieć łańcuchy Markowa za pomocą SAS. Rozumiem, że proces Markowa to taki, w którym przyszły stan zależy tylko od stanu bieżącego, a nie od stanu przeszłego, i istnieje matryca przejścia, która wychwytuje prawdopodobieństwo przejścia z jednego stanu do drugiego. Ale potem natrafiłem na ten termin: Markov Chain Monte Carlo. …

15 probability  simulation  mcmc  monte-carlo  markov-process 

W ciągu ostatnich kilku tygodni starałem się zrozumieć MCMC i algorytm (y) Metropolis-Hastings. Za każdym razem, gdy myślę, że to rozumiem, zdaję sobie sprawę, że się mylę. Większość przykładów kodu, które znajduję w Internecie, implementuje coś, co nie jest zgodne z opisem. tj.: Mówią, że wdrażają Metropolis-Hastings, ale w rzeczywistości …

15 mcmc  metropolis-hastings 

Właśnie zacząłem uczyć się używać Stana i rstan. Chyba że zawsze byłem zdezorientowany, jak działały JAGS / BŁĘDY, myślałem, że zawsze musisz zdefiniować jakiś wcześniejszy rozkład dla każdego parametru w modelu, z którego chcesz czerpać. Wygląda na to, że nie musisz tego robić w Stanie na podstawie jego dokumentacji. Oto …

15 mcmc  prior  jags  graphical-model  stan 

Czy ktoś może wyjaśnić główną ideę metod Hamiltona Monte Carlo iw jakich przypadkach przyniesie lepsze wyniki niż metody Monte Carlo Markowa w łańcuchu?

14 bayesian  mcmc  hmc 

Czy przeprowadzono badania na dużą skalę metod MCMC, które porównują wydajność kilku różnych algorytmów w zestawie gęstości testowych? Mam na myśli coś równoważnego z tekstem Riosa i Sahinidisa (2013), który jest dokładnym porównaniem dużej liczby optymalizatorów czarnej skrzynki bez pochodnych na kilku klasach funkcji testowych. W przypadku MCMC wydajność można …

14 machine-learning  bayesian  references  mcmc 

P: Jaki jest standardowy sposób klastrowania danych przy użyciu procesu Dirichleta? Podczas korzystania z Gibbs klastry próbkowania pojawiają się i znikają podczas próbkowania. Poza tym mamy problem z identyfikowalnością, ponieważ rozkład tylny jest niezmienny w przypadku etykietowania skupień. Dlatego nie możemy powiedzieć, który klaster jest użytkownikiem, a raczej, że dwóch …

14 bayesian  clustering  mcmc  dirichlet-process  identifiability 

Diagnostyka Gelmana i Rubina służy do sprawdzania zbieżności wielu równoległych łańcuchów mcmc. Porównuje wariancję wewnątrz łańcucha z wariancją między łańcuchem, opis poniżej: Kroki (dla każdego parametru): Poprowadź m ≥ 2 łańcuchy o długości 2n od nadmiernie rozproszonych wartości początkowych. Odrzuć pierwsze n losowań w każdym łańcuchu. Oblicz wariancję wewnątrz łańcucha …

14 mcmc  convergence  covariance-matrix 

Przechodziłem wykłady związane z MCMC. Nie znalazłem jednak dobrego przykładu tego, jak się go używa. Czy ktoś może dać mi konkretny przykład. Widzę tylko, że prowadzą łańcuch Markowa i mówią, że jego rozkład stacjonarny jest rozkładem pożądanym. Chcę dobrego przykładu, w którym trudno jest pobrać żądany rozkład. Tworzymy łańcuch Markowa. …

14 probability  bayesian  mcmc  markov-process 

Korzystam z próbnika Metropolis (C ++) i chcę użyć poprzednich próbek do oszacowania współczynnika konwergencji. Jedną z łatwych do wdrożenia diagnostyki, którą znalazłem, jest diagnostyka Geweke , która oblicza różnicę między dwoma średnimi próbkami podzielonymi przez szacowany błąd standardowy. Błąd standardowy jest szacowany na podstawie gęstości widmowej przy wartości zerowej. …

14 mcmc  diagnostic 

Losowy spacer Metropolis-Hasitings z symetryczną propozycją q(x|y)=g(|y−x|)q(x|y)=g(|y−x|)q(x|y)= g(|y-x|) ma tę właściwość, że prawdopodobieństwo przyjęcia P(accept y)=min{1,f(y)/f(x)}P(accept y)=min{1,f(y)/f(x)}P(accept\ y) = \min\{1, f(y)/f(x)\} nie zależy od propozycji .g(⋅)g(⋅)g(\cdot) Czy to oznacza, że ​​mogę zmienić g(⋅)g(⋅)g(\cdot) w zależności od poprzedniego działania łańcucha, bez wpływu na markovianity łańcucha? Szczególnie interesujące jest dla mnie dostosowanie …

14 mcmc  metropolis-hastings 

Czy ktoś wie o dobrze napisanym kodzie (w Matlabie lub R) dla MCMC z odwracalnym skokiem? Najlepiej jest to prosta aplikacja demonstracyjna uzupełniająca dokumenty na ten temat, która byłaby przydatna w zrozumieniu procesu.

14 r  matlab  references  mcmc 

Próbowałem zrozumieć algorytm Metropolis-Hastings, aby napisać kod do oszacowania parametrów modelu (tj. ). Według bibliografii algorytm Metropolis-Hastings ma następujące kroki:f(x)=a∗xf(x)=a∗xf(x)=a*x WygenerujYt∼q(y|xt)Yt∼q(y|xt)Y_t \sim q(y|x^t) Xt+1={Yt,xt,with probabilityρ(xt,Yt),with probability1−ρ(xt,Yt),Xt+1={Yt,with probabilityρ(xt,Yt),xt,with probability1−ρ(xt,Yt),X^{t+1}=\begin{cases} Y^t, & \text{with probability} \quad \rho(x^t,Y_t), \\ x^t, & \text{with probability} \quad 1-\rho(x^t,Y_t), \end{cases} gdzieρ(x,y)=min(f(y)f(x)∗q(x|y)q(y|x),1)ρ(x,y)=min(f(y)f(x)∗q(x|y)q(y|x),1)\rho(x,y)=\min \left( \frac{f(y)}{f(x)}*\frac{q(x|y)}{q(y|x)},1 \right) Jak chciałbym zadać kilka …

14 mcmc  metropolis-hastings 

Czy są jakieś dobre streszczenia (recenzje, książki) na temat różnych zastosowań sieci Markov Monte Carlo (MCMC)? Widziałem Markov Chain Monte Carlo w praktyce , ale te książki wydają się trochę stare. Czy jest więcej książek o aktualizacjach dotyczących różnych zastosowań MCMC w takich obszarach jak uczenie się maszyn, widzenie komputerowe …

14 machine-learning  mcmc  inference  references  application