Pytania otagowane jako bayesian

Niedawno obejrzałem tę rozmowę Erica J. Ma i sprawdziłem jego wpis na blogu , w którym cytuje Radforda Neala, że ​​modele bayesowskie nie pasują (ale mogą się przewyższać ), a podczas ich używania nie potrzebujemy zestawów testowych do ich weryfikacji (dla wydaje mi się, że cytaty mówią raczej o użyciu …

9 machine-learning  bayesian  cross-validation  deep-learning 

Casella i Berger podają właściwość niezmienniczości estymatora ML w następujący sposób: Wydaje mi się jednak, że określają „prawdopodobieństwo” ηη\eta w całkowicie doraźny i bezsensowny sposób: Jeśli zastosuję podstawowe zasady teorii prawdopodobieństwa do prostego przypadku, gdzieś η=τ(θ)=θ2η=τ(θ)=θ2\eta=\tau(\theta)=\theta^2Zamiast tego otrzymuję następujące informacje: L(η|x)=p(x|θ2=η)=p(x|θ=−η–√∨θ=η–√)=:p(x|A∨B)L(η|x)=p(x|θ2=η)=p(x|θ=−η∨θ=η)=:p(x|A∨B)L(\eta|x)=p(x|\theta^2=\eta)=p(x|\theta = -\sqrt \eta \lor \theta = \sqrt \eta)=:p(x|A \lor …

9 self-study  bayesian  maximum-likelihood  frequentist  invariance 

Rozważ poniższy wykres, w którym symulowałem dane, w następujący sposób. Patrzymy na wynik binarny dla którego prawdziwe prawdopodobieństwo bycia 1 wskazuje czarna linia. Zależność funkcjonalna między współzmienną i jest wielomianem trzeciego rzędu z łączem logistycznym (więc jest nieliniowa w podwójnym kierunku).yobsyobsy_{obs}xxxp(yobs=1|x)p(yobs=1|x)p(y_{obs}=1 | x) Zielona linia to dopasowanie regresji logistycznej GLM, …

9 regression  logistic  bayesian  confidence-interval  credible-interval 

Przykłady: w opisie stanowiska mam zdanie: „Starszy inżynier Java w Wielkiej Brytanii”. Chcę użyć modelu głębokiego uczenia się, aby przewidzieć go jako 2 kategorie: English i IT jobs. Jeśli użyję tradycyjnego modelu klasyfikacji, może on przewidzieć tylko 1 etykietę z softmaxfunkcją na ostatniej warstwie. Dlatego mogę użyć 2 modelowych sieci …

9 machine-learning  deep-learning  natural-language  tensorflow  sampling  distance  non-independent  application  regression  machine-learning  logistic  mixed-model  control-group  crossover  r  multivariate-analysis  ecology  procrustes-analysis  vegan  regression  hypothesis-testing  interpretation  chi-squared  bootstrap  r  bioinformatics  bayesian  exponential  beta-distribution  bernoulli-distribution  conjugate-prior  distributions  bayesian  prior  beta-distribution  covariance  naive-bayes  smoothing  laplace-smoothing  distributions  data-visualization  regression  probit  penalized  estimation  unbiased-estimator  fisher-information  unbalanced-classes  bayesian  model-selection  aic  multiple-regression  cross-validation  regression-coefficients  nonlinear-regression  standardization  naive-bayes  trend  machine-learning  clustering  unsupervised-learning  wilcoxon-mann-whitney  z-score  econometrics  generalized-moments  method-of-moments  machine-learning  conv-neural-network  image-processing  ocr  machine-learning  neural-networks  conv-neural-network  tensorflow  r  logistic  scoring-rules  probability  self-study  pdf  cdf  classification  svm  resampling  forecasting  rms  volatility-forecasting  diebold-mariano  neural-networks  prediction-interval  uncertainty 

Pytanie: Jednym z powszechnych nieporozumień dla wartości p jest to, że reprezentują one prawdopodobieństwo prawdziwości hipotezy zerowej. Wiem, że to nieprawda i wiem, że wartości p reprezentują jedynie prawdopodobieństwo znalezienia próbki tak ekstremalnej jak ta, biorąc pod uwagę, że hipoteza zerowa jest prawdziwa. Jednak intuicyjnie, powinno być możliwe wyprowadzenie pierwszego …

9 hypothesis-testing  bayesian  p-value  frequentist 

Czytam ten przedruk i mam trudności z wyprowadzeniem równań dla regresji procesu Gaussa. Używają ustawień i notacji Rasmussen i Williams . Tak więc hałas addytywny, zerowy, stacjonarny i normalnie rozłożony z wariancjąσ2noiseσnoise2\sigma^2_{noise} zakłada się: y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) Zakłada się, że GP poprzedził średnią zero f(x)f(x)f(\mathbf{x}), co oznacza że ∀ …

9 regression  bayesian  gaussian-process 

Próbuję zaimplementować model mieszanki Gaussa z stochastycznym wnioskiem wariacyjnym, zgodnie z tym artykułem . To jest pgm mieszanki Gaussa. Według artykułu, pełny algorytm stochastycznego wnioskowania wariacyjnego to: I nadal jestem bardzo zdezorientowany co do metody skalowania go do GMM. Po pierwsze, myślałem, że lokalny parametr wariacyjny jest po prostu qzqzq_za …

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

Bayesowscy statystycy twierdzą, że „statystyki bayesowskie mogą oszacować parametry, które są bardzo trudne do oszacowania za pomocą metod częstych”. Czy następujący cytat zaczerpnięty z tej dokumentacji SAS mówi to samo? Zapewnia wnioski, które są uzależnione od danych i są dokładne, bez polegania na asymptotycznym przybliżeniu. Wnioskowanie o małej próbce przebiega …

9 bayesian  inference  sas  frequentist 

Czytam internetowy dokument wykrywający punkt wymiany w Bayesian przez Adamsa i MacKaya ( link ). Autorzy zaczynają od napisania krańcowego rozkładu predykcyjnego: gdzieP(xt+1|x1:t)=∑rtP(xt+1|rt,x(r)t)P(rt|x1:t)(1)P(xt+1|x1:t)=∑rtP(xt+1|rt,xt(r))P(rt|x1:t)(1) P(x_{t+1} | \textbf{x}_{1:t}) = \sum_{r_t} P(x_{t+1} | r_t, \textbf{x}_t^{(r)}) P(r_t | \textbf{x}_{1:t}) \qquad \qquad (1) xtxtx_t jest obserwacją w czasie ;ttt x1:tx1:t\textbf{x}_{1:t} oznacza zestaw obserwacji do czasu …

9 time-series  bayesian  inference  change-point 

Zamknięte . To pytanie wymaga szczegółów lub jasności . Obecnie nie przyjmuje odpowiedzi. Chcesz poprawić to pytanie? Dodaj szczegóły i wyjaśnij problem, edytując ten post . Zamknięte 3 lata temu . Z tego, co przeczytałem i od odpowiedzi na inne pytania , które tu zadałem, wiele tak zwanych metod częstokroć …

9 bayesian  frequentist  philosophical 

Obecnie patrzę na artykuł z modelu efektów losowych procesu Dirichleta, a jego specyfikacja jest następująca: gdzie jest parametrem skali a jest miarą podstawową. W dalszej części artykułu sugeruje, że zintegrujemy funkcję nad miarą podstawową taką jak Czy podstawową miarą w procesie Dirichleta jest cdf, czy jest to pdf? Co się …

9 bayesian  dirichlet-distribution  dirichlet-process  nonparametric-bayes  measure-theory 

Rozważmy kwadratową stratę , z podanym wcześniej gdzie . Niech prawdopodobieństwo. Znajdź estymator Bayesa .L(θ,δ)=(θ−δ)2L(θ,δ)=(θ−δ)2L(\theta,\delta)=(\theta-\delta)^2π(θ)π(θ)\pi(\theta)π(θ)∼U(0,1/2)π(θ)∼U(0,1/2)\pi(\theta)\sim U(0,1/2)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπδπ\delta^\pi Rozważ ważoną stratę kwadratową gdzie z wcześniejszym . Niech będzie prawdopodobieństwem. Znajdź estymator Bayesa .Lw(θ,δ)=w(θ)(θ−δ)2Lw(θ,δ)=w(θ)(θ−δ)2L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2w(θ)=I(−∞,1/2)w(θ)=I(−∞,1/2)w(\theta)=\mathbb{I}_{(-\infty,1/2)}π1(θ)=I[0,1](θ)π1(θ)=I[0,1](θ)\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπ1δ1π\delta^\pi_1 Porównaj iδπδπ\delta^\piδπ1δ1π\delta^\pi_1 Najpierw zauważyłem, że , i założyłem, że takie jest prawdopodobieństwo, w przeciwnym razie …

9 self-study  bayesian  estimation  hierarchical-bayesian  loss-functions 

Pytanie oparte jest na pracy zatytułowanej: Rekonstrukcja obrazu w rozproszonej tomografii optycznej z wykorzystaniem sprzężonego radiacyjnego modelu transportowo-dyfuzyjnego Link do pobrania Autorzy stosują algorytm EM z rzadkości nieznanego wektora celu oszacowania pikseli obrazu. Model podajel1l1l_1μμ\mu y=Aμ+e(1)(1)y=Aμ+ey=A\mu + e \tag{1} Oszacowanie podano w równaniu (8) as μ^=argmaxlnp(y|μ)+γlnp(μ)(2)(2)μ^=arg⁡maxln⁡p(y|μ)+γln⁡p(μ)\hat{\mu} = \arg max {\ln …

9 self-study  bayesian  maximum-likelihood  expectation-maximization  moving-average 

Chociaż lubię myśleć, że dobrze rozumiem pojęcie wcześniejszych informacji w bayesowskiej analizie statystycznej i podejmowaniu decyzji, często mam problem z otuleniem się o jej zastosowanie. Mam na myśli kilka sytuacji, które są przykładami moich zmagań i uważam, że nie zostały one właściwie omówione w bayesowskich podręcznikach statystycznych, które do tej …

9 bayesian  prior  rule-of-thumb  elicitation 

Problem Chciałbym wyciągnąć wnioski na temat systemu analogicznego do śmierci z nieznaną liczbą stron. Kostka jest walcowana kilka razy, po czym chciałbym wywnioskować rozkład prawdopodobieństwa dla parametru odpowiadającego liczbie boków matrycy, θ. Intuicja Jeśli po 40 rzutach zaobserwowałeś 10 czerwonych, 10 niebieskich, 10 zielonych i 10 żółtych, wydaje się, że …

9 r  probability  bayesian  jags