Jeffreys przed prawdopodobieństwem dwumianowym

Jeśli użyję wcześniej Jeffreysa dla dwumianowego parametru prawdopodobieństwa oznacza to użycie rozkładu . $\theta$ $\theta \sim beta(1/2,1/2)$

Jeśli przekształcę się w nowy układ odniesienia wówczas wyraźnie nie będzie również dystrybuowane jako rozkład . $\phi = \theta^2$ $\phi$ $beta(1/2,1/2)$

Moje pytanie brzmi: w jakim sensie Jeffreys był niezmienny przed reparametryzacją? Myślę, że nie rozumiem tematu szczerze mówiąc ...

Najlepsza,

Ben

bayesian jeffreys-prior

— ben18785
źródło

Przepaść Jeffreysa jest niezmienna w tym sensie, że rozpoczęcie od przeszczepu Jeffreysa dla jednej parametryzacji i uruchomienie odpowiedniej zmiany zmiennej jest identyczne z uzyskaniem wcześniejszego Jeffreysa dla tej nowej parametryzacji. W rzeczywistości ekwiwariant byłby właściwszym terminem niż niezmiennik .

— Xi'an

@ ben18785: spójrz na stats.stackexchange.com/questions/38962/…

— Zen.

Zobacz także math.stackexchange.com/questions/210607/… (mniej więcej to samo pytanie, ale myślę, że na innej stronie).

— Nathaniel

Zobacz także stats.stackexchange.com/questions/139001/...

— Christoph Hanck

Pozwala $\phi = g(\theta)$ , gdzie $g$ jest funkcją monotoniczną $\theta$ i pozwól $h$ być odwrotnością $g$ , tak że $\theta = h(\phi)$ . Możemy uzyskać wcześniejszą dystrybucję Jeffreya $p_{J}(\phi)$ na dwa sposoby:

Zacznij od modelu dwumianowego (1) sparametryzuj model za pomocą aby uzyskać i uzyskaj wcześniejszą dystrybucję Jeffrey'a dla tego modelu. $p (y | θ) = (\binom{n}{y}) θ^{y} (1 - θ)^{n - y}$ $\begin{equation} \label{original} p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y} \end{equation}$ $\phi = g(\theta)$ $p (y | ϕ) = (\binom{n}{y}) h (ϕ)^{y} (1 - h (ϕ))^{n - y}$ $p(y | \phi) = \binom{n}{y} h(\phi)^{y} (1-h(\phi))^{n-y}$ $p_{J}(\phi)$
Uzyskaj wcześniejszy rozkład Jeffrey'a z oryginalnego dwumianowego modelu 1 i zastosuj wzór zmiany zmiennych, aby uzyskać indukowaną wcześniejszą gęstość na $p_{J}(\theta)$ $\phi$ $p_{J} (ϕ) = p_{J} (h (ϕ)) | \frac{d h}{d ϕ} | .$ $p_{J}(\phi) = p_{J}(h(\phi)) |\frac{dh}{d\phi}|.$

Zachowanie niezmienności w stosunku do ponownej parametryzacji oznacza, że gęstości uzyskane w obu kierunkach powinny być takie same. Przeor Jeffreya ma tę cechę [Referencje: Pierwszy kurs bayesowskich metod statystycznych P. Hoffa ] $p_{J}(\phi)$

Aby odpowiedzieć na twój komentarz. Aby uzyskać wcześniejszą dystrybucję Jeffrey'a z prawdopodobieństwa dla modelu dwumianowego musimy obliczyć informacje Fishera, biorąc logarytm prawdopodobieństwa i obliczyć drugą pochodną i informacje Fishera są $p_{J}(\theta)$

p (y | θ) = (\binom{n}{y}) θ^{y} (1 - θ)^{n - y}

$p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y}$

l

$l$

l

$l$

\begin{aligned} l := \log (p (y | θ)) & \propto y \log (θ) + (n - y) \log (1 - θ) \\ \frac{\partial l}{\partial θ} & = \frac{y}{θ} - \frac{n - y}{1 - θ} \\ \frac{\partial^{2} l}{\partial θ^{2}} & = - \frac{y}{θ^{2}} - \frac{n - y}{(1 - θ)^{2}} \end{aligned}

$\begin{align*} l := \log(p(y | \theta)) &\propto y \log(\theta) + (n-y) \log(1-\theta) \\ \frac{\partial l }{\partial \theta} &= \frac{y}{\theta} - \frac{n-y}{1-\theta} \\ \frac{\partial^{2} l }{\partial \theta^{2}} &= -\frac{y}{\theta^{2}} - \frac{n-y}{ (1-\theta)^{2} } \end{align*}$

\begin{aligned} I (θ) & = - E (\frac{\partial^{2} l}{\partial θ^{2}} | θ) \\ = \frac{n θ}{θ^{2}} + \frac{n - n θ}{(1 - θ)^{2}} \\ = \frac{n}{θ (1 - θ)} \\ \propto θ^{- 1} (1 - θ)^{- 1} . \end{aligned}

$\begin{align*} I(\theta) &= -E(\frac{\partial^{2} l }{\partial \theta^{2}} | \theta) \\ &= \frac{n\theta}{\theta^{2}} + \frac{n - n \theta}{(1-\theta)^{2}} \\ &= \frac{n}{\theta ( 1- \theta)} \\ &\propto \theta^{-1} (1-\theta)^{-1}. \end{align*}$ Prior od Jeffrey'a dla tego modelu to czyli .

\begin{aligned} p_{J} (θ) & = \sqrt{I (θ)} \\ \propto θ^{- 1 / 2} (1 - θ)^{- 1 / 2} \end{aligned}

$\begin{align*} p_{J}(\theta) &= \sqrt{I(\theta)} \\ &\propto \theta^{-1/2} (1-\theta)^{-1/2} \end{align*}$

beta (1 / 2, 1 / 2)

$\texttt{beta}(1/2, 1/2)$

— Marko Lalović
źródło

Dzięki za odpowiedź. Boję się, że jestem trochę powolny. W jakim sensie możemy uzyskać przeor z prawdopodobieństwa? Są to dwie osobne rzeczy, a ta ostatnia nie implikuje pierwszej ...

— ben18785 24.04.17

Odpowiedziałem powyżej, uzyskując wcześniejsze Jeffrey'a z prawdopodobieństwa dla modelu dwumianowego.

p_{J} (θ)

$p_{J}(\theta)$

— Marko Lalović