Stała normalizująca w twierdzeniu Bayesa

15

$\Pr(\textrm{data})$

Pr (parameters ∣ data) = \frac{Pr (data ∣ parameters) Pr (parameters)}{Pr (data)}

$\Pr(\text{parameters} \mid \text{data}) = \frac{\Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\text{parameters})}{\Pr(\text{data})}$

nazywa się stałą normalizującą . Co to dokładnie jest Jaki jest jego cel? Dlaczego wygląda na ? Dlaczego to nie zależy od parametrów? $\Pr(data)$

probability bayesian

— amator
źródło

4

Kiedy integrujesz , integrujesz parametry, więc wynik nie zawiera żadnego terminu zależnego od parametrów, w taki sam sposób, jak nie zależy od .

f (data | params) f (params)

$f(\text{data}|\text{params})f(\text{params})$

\int_{x = 0}^{x = 2} x y d x = 2 y

$\int_{x=0}^{x=2}xy\;dx = 2y$

x

$x$

— Henry

16

Mianownik, , jest uzyskiwany przez całkowanie parametrów z prawdopodobieństwa złączenia, $\Pr(\textrm{data})$ $\Pr(\textrm{data}, \textrm{parameters})$ . Jest to krańcowe prawdopodobieństwo danych i, oczywiście, nie zależy od parametrów, ponieważ zostały one zintegrowane.

Teraz, ponieważ:

$\Pr(\textrm{data})$ nie zależy od parametrów, dla których chce się wnioskować;
$\Pr(\textrm{data})$ jest ogólnie trudny do obliczenia w formie zamkniętej;

często stosuje się następującą adaptację formuły Baye'a:

$\Pr(\textrm{parameters} \mid \textrm{data}) \propto \Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\textrm{parameters})$

Zasadniczo jest niczym innym jak „stałą normalizującą”, tj. Stałą, która integruje tylną gęstość z jednym . $\Pr(\textrm{data})$

— ocram
źródło

2

Co dokładnie rozumiesz przez „ integrując parametry”? Jakie jest dokładne znaczenie „integracji” w tym kontekście?

— nro

2

@nbro: Mam na myśli Pr (dane) = całka ponad parametrami Pr (dane, parametry)

— ocram

2

Stosując zasadę Bayesa, zwykle chcemy wnioskować o „parametrach”, a „dane” są już podane. Zatem jest stałą i możemy założyć, że jest to tylko czynnik normalizujący. $\Pr(\textrm{data})$

— Szorstki
źródło