11

Powiedz, że jest ciągłą zmienną losową, a jest zmienną dyskretną. $Y$ $X$

Pr (X = x | Y = y) = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}$

Jak wiemy, $\Pr(Y=y) = 0$ ponieważ $Y$ jest ciągłą zmienną losową. Na tej podstawie kuszę się do wniosku, że prawdopodobieństwo $\Pr(X=x|Y=y)$ jest niezdefiniowane.

Jednak Wikipedia twierdzi tutaj, że tak naprawdę jest zdefiniowana następująco:

Pr (X = x | Y = y) = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$

Pytanie: Jakiś pomysł, w jaki sposób Wikipedii udało się określić to prawdopodobieństwo?

Moja próba

Oto moja próba uzyskania wyniku Wikipedii pod względem limitów:

\begin{aligned} Pr (X = x | Y = y) & = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \end{aligned}

$\begin{split}\require{cancel} \Pr(X=x|Y=y) &= \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(d \times f_{Y|X=x}(y)\big)}{\big(d \times f_Y(y)\big)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(\cancel{d} \times f_{Y|X=x}(y)\big)}{\big(\cancel{d} \times f_Y(y)\big)}\\ &= \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}\\ \end{split}$

Teraz wydaje się , że $\Pr(X=x|Y=y)$ $\frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$ , który pasuje twierdzi Wikipedia.

Czy tak właśnie zrobiła Wikipedia?

Ale nadal czuję, że nadużywam rachunku różniczkowego. Myślę więc, że jest niezdefiniowany, ale w miarę zbliżania się limitu do zdefiniowania i , ale nie wzrokowo, to $\Pr(X=x|Y=y)$ $\Pr(Y=y)$ $\Pr(Y=y|X=x)$ $\Pr(X=x|Y=y)$ jest zdefiniowane.

Ale jestem w dużej mierze niepewny co do wielu rzeczy, w tym sztuczki z limitami, którą tam zrobiłem, czuję, że może nawet nie w pełni rozumiem sens tego, co zrobiłem.

conditional-probability pdf

— jaskiniowiec
źródło

1

Rzeczywiście, Pr (X = x) = 0, ale gęstość X w xf (x) może nie być równa 0. Czy nie powinieneś używać etykiety „samokształcenie”?

— Lil'Lobster,

2

@Lil O ile mi wiadomo, tag „samokształcenie” służy do rozwiązywania zadań domowych. Nie robie tego

— jaskiniowiec

1

Strona Wikipedii tak naprawdę odnosi się do pochodnej: en.wikipedia.org/wiki/Bayes'_theorem#Derivation

— Ytsen de Boer

3

Obawiam się, że twoje pochodzenie nie ma matematycznego uzasadnienia, ponieważ

dla wszystkich

gdy

jest ciągłe.

P (Y = y) = 0

$\mathbb{P}(Y=y)=0$

y \in Y

$y\in\mathcal{Y}$

Y

$Y$

— Xi'an,

10

Warunkowy rozkład prawdopodobieństwa , , jest formalnie zdefiniowany jako rozwiązanie równania $\mathbb{P}(X=x|Y=y)$ $x\in\mathcal{X}$ $y\in\mathcal{Y}$ , gdzie ma uprzednio -algebra związane z rozkładem . Jedno z tych rozwiązań zapewnia formuła Bayesa (1763), jak wskazano wWikipedii:

P (X = x, Y \in A) = \int_{A} P (X = x | Y = y) f_{Y} (y) d y \forall A \in σ (Y)

$\mathbb{P}(X=x,Y\in A)=\int_{A}\mathbb{P}(X=x|Y=y)f_Y(y)\text{d}y\quad\forall A\in\sigma(\mathcal{Y})$

σ (Y)

$\sigma(\mathcal{Y})$

σ

$\sigma$

Y

$Y$

chociaż wersje, które są arbitralnie zdefiniowane w zestawie zero-miara w

są również ważne.

P (X = x | Y = y) = \frac{P (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \forall x \in X, y \in Y

$\mathbb{P}(X=x|Y=y) = \dfrac{\mathbb{P}(X=x) f_{Y|X=x}(y)}{f_Y(y)}\qquad\forall x\in\mathcal{X},\ y\in\mathcal{Y}$

σ (Y)

$\sigma(\mathcal{Y})$

Pojęcie prawdopodobieństwa warunkowego w odniesieniu do pojedynczej hipotezy, której prawdopodobieństwo wynosi 0, jest niedopuszczalne. Możemy bowiem uzyskać rozkład prawdopodobieństwa dla [szerokości geograficznej] na okręgu południkowym tylko wtedy, gdy uważamy to koło za element rozkładu całej powierzchni kulistej na okręgi południkowe przy danych biegunach - Andrei Kolmogorov

Jak pokazuje paradoks Borela-Kołmogorowa , biorąc pod uwagę konkretną wartość potencjalnie przyjętą , warunkowy rozkład prawdopodobieństwa nie ma ścisłego znaczenia, nie tylko dlatego, że zdarzenie $y_0$ $Y$ $\mathbb{P}(X=x|Y=y_0)$ ma miarę zerową, ale również dlatego, że to zdarzenie można interpretować jako mierzalne w odniesieniu do nieskończonego zakresu -algeb. $\{\omega;\,Y(\omega)=y_0\}$ $\sigma$

Uwaga: oto jeszcze bardziej formalne wprowadzenie, zaczerpnięte z przeglądu teorii prawdopodobieństwa na blogu Terry Tao :

Definicja 9 (rozpad) Niech jest zmienną losową o zakresie . Rozpad na leżącej próbkowania przestrzeni względem jest podzbiorem o pełnej środka (zatem prawie na pewno) wraz z przypisanie miary prawdopodobieństwa $Y$ $R$ $(R', (\mu_y)_{y \in R'})$ $\Omega$ $Y$ $R'$ $R$ $\mu_Y$ $Y \in R'$ ${\bf P}(|Y=y)$ na podprzestrzeń z na każdy , który jest do zmierzenia w tym sensie, że mapa można zmierzyć za każdą zdarzenie , i takie, że dla wszystkich takich zdarzeń, gdzie $\Omega_y := \{ \omega \in \Omega: Y(\omega)=y\}$ $\Omega$ $y \in R$ $y \mapsto {\bf P}(F|Y=y)$ $F$
$P (F) = E P (F | Y)$ $\displaystyle {\bf P}(F) = {\bf E} {\bf P}(F|Y)$ jest (prawie na pewno zdefiniowaną) zmienną losową zdefiniowaną jako równa za każdym razem, gdy . ${\bf P}(F|Y)$ ${\bf P}(F|Y=y)$ $Y=y$
Biorąc pod uwagę taki rozpad, możemy następnie warunkować zdarzenie dla dowolnego , zastępując podprzestrzenią (indukowaną algebrą ), ale zastępując leżącą u podstaw miarę prawdopodobieństwa przez . Możemy zatem warunkować (bezwarunkowe) zdarzenia i zmienne losowe do tego zdarzenia, aby utworzyć zdarzenia warunkowe i zmienne losowe $Y=y$ $y \in R'$ $\Omega$ $\Omega_y$ $\sigma$ ${\bf P}$ ${\bf P}(|Y=y)$ $F$ $X$ $(F|Y=y)$ w przestrzeni warunkowanej, co powoduje prawdopodobieństwo warunkowe (co jest zgodne z istniejącą notacją tego wyrażenia) i oczekiwanie warunkowe (przy założeniu absolutna całkowalność w tej uwarunkowanej przestrzeni). Następnie ustawiamy jako (prawie na pewno zdefiniowaną) zmienną losową zdefiniowaną jako równa $(X|Y=y)$ ${\bf P}(F|Y=y)$ ${\bf E}(X|Y=y)$ ${\bf E}(X|Y)$ ilekroć . ${\bf E}(X|Y=y)$ $Y=y$

— Xi'an
źródło

1

Już daje +1, ale ... może to dręczące, ale czy nie lepiej byłoby odwoływać się do twierdzenia Bayesa jako formuły Bayesa / Laplace'a?

— Tim

2

X

$X$

Y

$Y$

4

$Y$ $X$ jest dyskretne.

Mieszana gęstość spoiny:

{fa}_{X Y} (x, y)

$f_{XY}(x,y)$

Gęstość krańcowa i prawdopodobieństwo:

{fa}_{Y} (y) = \sum_{x \in X} {fa}_{X Y} (x, y)

$f_Y(y) = \sum_{x \in X} f_{XY}(x, y)$

P. (X = x) = \int {fa}_{X Y} (x, y) re y

$P(X = x) = \int f_{XY}(x, y) \;dy$

Gęstość warunkowa i prawdopodobieństwo:

{fa}_{Y ∣ X} (y ∣ X = x) = \frac{{fa}_{X Y} (x, y)}{P. (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{f_{XY}(x, y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{X Y} (x, y)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{XY}(x, y)}{f_Y(y)}$

Reguła Bayesa:

f_{Y ∣ X} (y ∣ X = x) = \frac{P (X = x ∣ Y = y) f_{Y} (y)}{P (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{P(X=x \mid Y = y) f_Y(y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{Y ∣ X} (y ∣ X = x) P (X = x)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{Y\mid X}(y \mid X = x)P(X=x)}{f_Y(y)}$

Oczywiście nowoczesnym, rygorystycznym sposobem radzenia sobie z prawdopodobieństwem jest teoria miar. Definicja precyzji znajduje się w odpowiedzi Xi'ana.

— Matthew Gunn
źródło

2

f_{X} (x | Y = y) = \frac{P (Y = y | X = x) f_{X} (x)}{p (Y = y)}

$f_X(x|Y=y) = \frac{P(Y=y|X=x)f_X(x)}{p(Y=y)}$

P (X = x | Y = y)

$P(X=x|Y=y)$

X

$X$

Y

$Y$

X

$X$ w tym przypadku

Edycja: Z powodu zamieszania związanego z notacją (patrz komentarze) powyższe tak naprawdę odnosi się do sytuacji odwrotnej do tego, o co pytał jaskiniowiec.

— Ruben van Bergen
źródło

dyskretne?

Moja próba