Statystyki i duże zbiory danych bayesian

3

Dlaczego nikt nie korzysta z bayesowskiego wielomianowego klasyfikatora Naive Bayes?

Tak więc w (nienadzorowanym) modelowaniu tekstu Latent Dirichlet Allocation (LDA) to bayesowska wersja probabilistycznej latentnej analizy semantycznej (PLSA). Zasadniczo LDA = PLSA + Dirichlet przed jego parametrami. Rozumiem, że LDA jest teraz algorytmem referencyjnym i jest zaimplementowany w różnych pakietach, podczas gdy PLSA nie powinna już być używana. Ale w …

15 bayesian multinomial prior naive-bayes dirichlet-distribution

3

Zrozumienie teorii separacji d w przyczynowych sieciach bayesowskich

Próbuję zrozumieć logikę d-separacji w przyczynowych sieciach bayesowskich. Wiem, jak działa algorytm, ale nie do końca rozumiem, dlaczego „przepływ informacji” działa zgodnie z tym, co podano w algorytmie. Na przykład na powyższym wykresie, zastanówmy się, że podano nam tylko X i nie zaobserwowano żadnej innej zmiennej. Następnie zgodnie z zasadami …

15 bayesian causality graphical-model bayesian-network

2

Płaski, koniugatowy i hiper-priory. Czym oni są?

Obecnie czytam o Bayesian Methods in Computation Molecular Evolution autorstwa Yang. W rozdziale 5.2 mówi o priory, a konkretnie nieinformacyjne / płaskie / niejasne / rozproszone, sprzężone i hiper-priory. Może to wymagać uproszczenia, ale czy ktoś mógłby wyjaśnić po prostu różnicę między tego rodzaju priorytetami i jak to wpływa na …

15 bayesian prior

2

Szacowanie kowariancji a posteriori rozkładu wielowymiarowego gaussa

Muszę „nauczyć się” rozkładu dwuwymiarowego gaussa z kilkoma próbkami, ale dobrą hipotezą na temat wcześniejszego rozkładu, dlatego chciałbym zastosować podejście bayesowskie. Zdefiniowałem mój wcześniejszy: P(μ)∼N(μ0,Σ0)P(μ)∼N(μ0,Σ0) \mathbf{P}(\mathbf{\mu}) \sim \mathcal{N}(\mathbf{\mu_0},\mathbf{\Sigma_0}) μ0=[00] Σ0=[160027]μ0=[00] Σ0=[160027] \mathbf{\mu_0} = \begin{bmatrix} 0 \\ 0 \end{bmatrix} \ \ \ \mathbf{\Sigma_0} = \begin{bmatrix} 16 & 0 \\ 0 & …

15 distributions bayesian estimation covariance posterior

2

Co to jest „metoda przekazywania wiadomości”?

Mam niejasne wyczucie, czym jest metoda przekazywania wiadomości: algorytm, który buduje aproksymację do rozkładu poprzez iteracyjne budowanie aproksymacji każdego z czynników rozkładu, zależnie od wszystkich aproksymacji wszystkich innych czynników. Uważam, że oba są przykładami Przekazywanie komunikatów wariacyjnych i propagowanie oczekiwań . Co to jest algorytm przekazywania komunikatów bardziej jawnie / …

15 distributions bayesian references algorithms

2

Związek między statystykami bayesowskimi a modelowaniem generatywnym

Czy ktoś może skierować mnie do dobrego źródła, które wyjaśnia związek między statystykami bayesowskimi a technikami modelowania generatywnego? Dlaczego zwykle używamy modeli generatywnych z technikami bayesowskimi? Dlaczego korzystanie ze statystyk bayesowskich jest szczególnie atrakcyjne przy braku kompletnych danych, jeśli w ogóle? Zauważ, że pochodzę z bardziej zorientowanego na uczenie maszynowe …

15 bayesian generative-models

4

Przedziały ufności dla parametrów regresji: bayesowska vs. klasyczna

Biorąc pod uwagę dwie tablice x i y o długości n, dopasowuję model y = a + b * x i chcę obliczyć 95% przedział ufności dla nachylenia. Jest to (b - delta, b + delta), gdzie b znajduje się w zwykły sposób i delta = qt(0.975,df=n-2)*se.slope a se.slope to …

15 r regression bayesian confidence-interval frequentist

2

Skąd pochodzą pełne warunki warunkowe w próbkowaniu Gibbsa?

Algorytmy MCMC, takie jak próbkowanie Metropolis-Hastings i Gibbs, są sposobami próbkowania ze wspólnych rozkładów tylnych. Wydaje mi się, że rozumiem i potrafię dość łatwo wdrożyć pospieszanie metropolii - po prostu wybierasz punkty początkowe i „chodzisz po przestrzeni parametrów” losowo, kierując się gęstością a posteriori i gęstością propozycji. Próbkowanie Gibbsa wydaje …

15 bayesian mcmc gibbs

2

Czy istnieje standardowa metoda radzenia sobie z problemem zmiany etykiety w ocenie MCMC modeli mieszanin?

Przełączanie etykiet (tj. Rozkład tylny jest niezmienny w stosunku do przełączania etykiet składników) jest problematycznym problemem przy użyciu MCMC do oszacowania modeli mieszanin. Czy istnieje standardowa (jak w powszechnie akceptowanej) metodologia radzenia sobie z tym problemem? Jeśli nie ma standardowego podejścia, jakie są zalety i wady wiodących podejść do rozwiązania …

15 bayesian mcmc mixture

2

Stała normalizująca w twierdzeniu Bayesa

Pr(data)Pr(data)\Pr(\textrm{data}) Pr(parameters∣data)=Pr(data∣parameters)Pr(parameters)Pr(data)Pr(parameters∣data)=Pr(data∣parameters)Pr(parameters)Pr(data)\Pr(\text{parameters} \mid \text{data}) = \frac{\Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\text{parameters})}{\Pr(\text{data})} nazywa się stałą normalizującą . Co to dokładnie jest Jaki jest jego cel? Dlaczego wygląda na ? Dlaczego to nie zależy od parametrów?Pr(data)Pr(data)\Pr(data)

15 probability bayesian

5

Czy istnieje coś więcej niż prawdopodobieństwo bayesianizmu?

Jako student fizyki doświadczyłem wykładu „Dlaczego jestem Bayesianem” może pół tuzina razy. Zawsze jest tak samo - prezenter z satysfakcją wyjaśnia, w jaki sposób interpretacja bayesowska przewyższa interpretację częstokrzyską rzekomo stosowaną przez masy. Wspominają o regule Bayesa, marginalizacji, przeorach i późniejszych. Jaka jest prawdziwa historia? Czy istnieje uzasadniona dziedzina zastosowania …

15 probability bayesian frequentist

2

Jaka jest dobra wcześniejsza dystrybucja dla stopni swobody w dystrybucji?

Chcę użyć przy dystrybucji do modelowania zwrotów aktywów o krótkich interwałach w modelu bayesowskim. Chciałbym oszacować oba stopnie swobody (wraz z innymi parametrami w moim modelu) dla rozkładu. Wiem, że zwroty z aktywów są dość nietypowe, ale nie wiem zbyt wiele poza tym. Jaka jest odpowiednia, lekko informacyjna wcześniejsza dystrybucja …

15 distributions bayesian modeling prior

3

Kiedy przedział ufności „ma sens”, ale odpowiadający mu przedział wiarygodności nie?

Często zdarza się, że przedział ufności z 95% pokryciem jest bardzo podobny do wiarygodnego przedziału, który zawiera 95% gęstości tylnej. Dzieje się tak, gdy przeor jest jednolity lub prawie jednolity w tym drugim przypadku. Dlatego przedział ufności może być często stosowany do przybliżenia wiarygodnego przedziału i odwrotnie. Co ważne, możemy …

14 bayesian confidence-interval frequentist credible-interval

1

Hamiltonian Monte Carlo dla manekinów

Czy możesz wyjaśnić manekinom krok po kroku, jak działa Hamiltonian Monte Carlo? PS: Przeczytałem już odpowiedzi tutaj, Hamiltonian Monte Carlo , a tutaj Hamiltonian Monte Carlo vs. Sekwencyjny Monte Carlo , a tutaj Hamiltonian Monte Carlo: jak zrozumieć propozycję Metropolis-Hasting? i nie zajmują się tym krok po kroku.

14 bayesian hmc

4

Prawdopodobieństwo, że hipoteza zerowa jest prawdziwa

To może być częste pytanie, ale nigdy nie znalazłem satysfakcjonującej odpowiedzi. Jak określić prawdopodobieństwo, że hipoteza zerowa jest prawdziwa (lub fałszywa)? Powiedzmy, że dajesz uczniom dwie różne wersje testu i chcesz sprawdzić, czy wersje były równoważne. Wykonujesz test t, który daje wartość p wynoszącą 0,02. Co za niezła wartość p! …

14 probability hypothesis-testing bayesian

Pytania otagowane jako bayesian