Wyprowadzenie zmiany zmiennych funkcji gęstości prawdopodobieństwa?

16

W rozpoznawaniu wzorów książek i uczeniu maszynowym (wzór 1.27) daje

p_{y} (y) = p_{x} (x) | \frac{d x}{d y} | = p_{x} (g (y)) | g^{'} (y) |

$p_y(y)=p_x(x) \left | \frac{d x}{d y} \right |=p_x(g(y)) | g'(y) |$ gdzie

x = g (y)

$x=g(y)$ ,to pdf, który odpowiadaw odniesieniu do zmiany zmiennej.

p_{x} (x)

$p_x(x)$

p_{y} (y)

$p_y(y)$

Książki mówią, że dzieje się tak, ponieważ obserwacje mieszczące się w zakresie $(x, x + \delta x)$ , dla małych wartości $\delta x$ , zostaną przekształcone w zakres $(y, y + \delta y)$ .

Jak powstaje to formalnie?

Aktualizacja Dilip Sarwate

Wynik zachodzi tylko wtedy, gdy $g$ jest ściśle monotoniczną funkcją zwiększania lub zmniejszania.

Niektóre drobne zmiany w odpowiedzi LV Rao Dlatego jeśli

P (Y \leq y) = P (g (X) \leq y) = {\begin{cases} P (X \leq g^{- 1} (y)), & gdyby sol rośnie monotonicznie \\ P. (X \geq {sol}^{- 1} (y)), & gdyby sol zmniejsza się monotonicznie \end{cases}

$\begin{equation} P(Y\le y) = P(g(X)\le y)= \begin{cases} P(X\le g^{-1}(y)), & \text{if}\ g \text{ is monotonically increasing} \\ P(X\ge g^{-1}(y)), & \text{if}\ g \text{ is monotonically decreasing} \end{cases} \end{equation}$

g

$g$ jest monotonicznie rosnący

{fa}_{Y} (y) = {fa}_{X} ({sol}^{- 1} (y))

$F_{Y}(y)=F_{X}(g^{-1}(y))$

jeżeli monotonicznie zmniejsza się

f_{Y} (y) = f_{X} (g^{- 1} (y)) \cdot \frac{d}{d y} g^{- 1} (y)

$f_{Y}(y)= f_{X}(g^{-1}(y))\cdot \frac{d}{dy}g^{-1}(y)$

F_{Y} (y) = 1 - {fa}_{X} ({sol}^{- 1} (y))

$F_{Y}(y)=1-F_{X}(g^{-1}(y))$

f_{Y} (y) = - {fa}_{X} ({sol}^{- 1} (y)) \cdot \frac{re}{re y} {sol}^{- 1} (y)

$f_{Y}(y)=- f_{X}(g^{-1}(y))\cdot \frac{d}{dy}g^{-1}(y)$

∴ f_{Y} (y) = f_{X} (g^{- 1} (y)) \cdot | \frac{d}{d y} g^{- 1} (y) |

$\therefore f_{Y}(y) = f_{X}(g^{-1}(y)) \cdot \left | \frac{d}{dy}g^{-1}(y) \right |$

machine-learning probability self-study derivative jacobian

— dontloo
źródło

1

g

$g$

g

$g$

Wyjaśnienie twojej książki przypomina to, które zaproponowałem na stronie stats.stackexchange.com/a/14490/919 . Opublikowałem również ogólną metodę algebraiczną na stronie stats.stackexchange.com/a/101298/919 oraz geometryczne wyjaśnienie na stronie stats.stackexchange.com/a/4223/919 .

— whuber

1

@DilipSarwate dziękuję za wyjaśnienie, myślę, że rozumiem intuicję, ale bardziej interesuje mnie, w jaki sposób można ją wyprowadzić przy użyciu istniejących reguł i twierdzeń :)

— dontloo,

Odpowiedzi:

15

$X$ pdf $Y=g(X)$ pdf $Y$

\begin{array}{rcl} P (Y \leq y) & = & P (g (X) \leq y) \\ = & P (X \leq g^{- 1} (y)) \\ o r F_{Y} (y) & = & F_{X} (g^{- 1} (y)), by the definition of CDF \end{array}

$\begin{eqnarray*} P(Y\le y) &=& P(g(X)\le y)\\ &=& P(X\le g^{-1}(y))\\ or\;\;F_{Y}(y)&=& F_{X}(g^{-1}(y)),\quad \mbox{by the definition of CDF}\\ \end{eqnarray*}$

y

$y$

Y

$Y$

Y

$Y$

f_{Y} (y) = f_{X} (g^{- 1} (y)) \cdot \frac{d}{d y} g^{- 1} (y)

$\begin{equation*} f_{Y}(y)= f_{X}(g^{-1}(y))\cdot \frac{d}{dy}g^{-1}(y) \end{equation*}$

Y

$Y$

f_{Y} (y) = - f_{X} (g^{- 1} (y)) \cdot \frac{d}{d y} g^{- 1} (y)

$\begin{equation*} f_{Y}(y)= - f_{X}(g^{-1}(y))\cdot \frac{d}{dy}g^{-1}(y) \end{equation*}$

∴ f_{Y} (y) = f_{X} (g^{- 1} (y)) \cdot | \frac{d}{d y} g^{- 1} (y) |

$\begin{equation*} \therefore f_{Y}(y) = f_{X}(g^{-1}(y))\cdot |\frac{d}{dy}g^{-1}(y)| \end{equation*}$

— LVRao
źródło

Ale ponieważ całka nad fx musi sumować się do 1, a fy jest skalowaną wersją fx, czy to nie znaczy, że fy nie jest poprawnym pdf, chyba że jacobian w abs () ma wartość 1 lub -1?

— Chris

g^{- 1}

$g^{-1}$

Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.

Licensed under cc by-sa 3.0 with attribution required.