Co to jest funkcja generowania momentu (MGF)?

Czy potrafisz to wytłumaczyć laikiem wraz z prostym i łatwym przykładem?

Ogranicz w miarę możliwości formalne notacje matematyczne.

Załóżmy, że intuicja pozbawiona równań nie jest możliwa, i nadal nalegamy na sprowadzenie matematyki do najistotniejszych rzeczy, aby zorientować się, co się dzieje: staramy się uzyskać momenty statystyczne , które po obowiązkowym nawiązaniu do fizyki definiujemy jako wartość oczekiwaną mocy zmiennej losowej. Dla ciągłej zmiennej losowej nieprzetworzony $k$ -ty moment to LOTUS :

$$\begin{align}\large \color{red}{\mathbb{E}\left[{X^k}\right]} &= \displaystyle\int_{-\infty}^{\infty}\color{blue}{X^k}\,\,\color{green}{\text{pdf}}\,\,\,dx\tag{1}\end{align}$$

Funkcja generowania momentu ,

$$M_X(t):=\mathbb E\big[e^{tX}\big],$$ jest sposobem na obejście tej całki (równanie 1) poprzez wykonanie:

$$\begin{align} \large \color{blue}{\mathbb{E}\left[e^{\,tX}\right]}&=\displaystyle \int_{-\infty}^{\infty}\color{blue}{e^{tX}}\,\color{green}{\text{pdf}}\, dx\tag{2}\end{align}$$

Dlaczego? Ponieważ łatwiej i jest tam fantastyczna własność MGF, które mogą być postrzegane przez rozszerzenie serii Maclaurin o $\color{blue}{e^{\,tX}}$

$$e^{tX}=1+\frac{ X }{1!}\, t +\frac{ X^{2} }{2!}t^{2} +\frac{ X^{3} }{3!} t^{3} +\cdots$$

Biorąc pod uwagę oczekiwania obu stron tej serii mocy:

$$\begin{align} M_X(t) &= \color{blue}{\mathbb{E}\left[e^{\,tX}\right]} \\[1.5ex] &=1 + \frac{\color{red}{\mathbb{E} \left[X\right]}}{1!} \, t \, + \frac{\color{red}{\mathbb{E} \left[X^2\right]}}{2!} \, t^2 \, + \frac{\color{red}{\mathbb{E} \left[X^3\right]}}{3!} \, t^3 \, + \cdots\tag{3} \end{align}$$

momenty wydają się „osadzone” na tej wielomianowej „sznurku”, gotowe do unicestwienia przez różnicowanie $k$ razy i ocenę od zera, gdy przejdziemy przez łatwiejszą integrację (w równaniu (2)) tylko raz na wszystkie momenty! Fakt, że jest to łatwiejsza integracja jest najbardziej widoczny, gdy pdf jest wykładniczy.

Aby odzyskać $k$ -ty moment:

$$M_X^{(k)}(0)=\frac{d^k}{dt^k}M_X(t)\Bigr|_{t=0}$$

Fakt, że w końcu istnieje potrzeba różnicowania, sprawia, że ​​nie jest to darmowy lunch - w końcu jest to dwustronna transformata Laplace'a pdf ze zmienionym znakiem w wykładniku:

$$\mathcal L \{\text{pdf}(x)\}(s) =\int_{-\infty}^{\infty}e^{-sx}\text{pdf}(x) dx$$

takie, że

$$M_X(t)=\mathcal L\{\text{pdf}(x)\}(-s)\tag 4.$$

To w efekcie daje nam fizyczną ścieżkę do intuicji. Transformacja Laplace'a działa na $\color{green}{\text{pdf}}$ i rozkłada go na chwile. Podobieństwo do transformacji Fouriera jest nieunikniona : a FT odwzorowuje funkcję do nowej funkcji na prostej rzeczywistej, a Laplace odwzorowuje funkcję do nowej funkcji na płaszczyźnie zespolonej. Transformacja Fouriera wyraża funkcję lub sygnał jako ciąg częstotliwości, podczas gdy transformata Laplace'a rozkłada funkcję na swoje momenty . W rzeczywistości innym sposobem uzyskiwania momentów jest transformacja Fouriera ( funkcja charakterystyczna ). Wykładniczy określenie w transformaty Laplace'a wynosi na ogół od postaci $e^{-st}$ o$s=\sigma + i\,\omega$ , odpowiadającerzeczywistym wykładniczym i wyimaginowanym sinusoidom, i dając wykresy takie jakto:

---

[ Z przewodnika naukowca i inżyniera po przetwarzaniu sygnałów, Steven W. Smith ]

---

Dlatego funkcja $M_X(t)$ rozkłada jakoś $\text{pdf}$ na jego „częstotliwości składowe”, gdy $\sigma=0.$ Z równania. (4):

$$\begin{align}\require{cancel} M_X(t)&=\mathbb E\big[e^{-sX}\big]\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-sx}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-(\sigma+i\omega)x}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}\cancel{e^{-\sigma x}}\,\color{red}{e^{-i\omega x}\,\text{pdf}(x)\, dx} \end{align}$$

co pozostawia nam niewłaściwą całkę części wyrażenia na czerwono, odpowiadającą transformacie Fouriera w pdf.

Ogólnie, intuicja biegunów transformaty Laplace'a polega na tym, że dostarczają one informacji o wykładniczej (rozpadzie) i częstotliwościowej funkcji (w tym przypadku pdf).

---

$X^k$$e^{tx}$$(1)$$(2)$$k$$(2)$$k$$(3)$$0$

$$M(t)=e^{t\mu+1/2\sigma^2t^2}$$ $$\frac d {dt}M(t)|_{t=0}=\mu+\sigma^2t|_{t=0}=\mu$$

Co więcej, ponieważ ten MGF koduje wszystko o dystrybucji, jeśli wiesz, jak manipulować funkcją, możesz zastosować operacje na wszystkich cechach dystrybucji jednocześnie! Dlaczego nie zawsze używamy MGF? Po pierwsze, nie w każdej sytuacji MGF jest najłatwiejszym narzędziem. Po drugie, MGF nie zawsze istnieje.

Powyżej laika

$$f(x)=\frac 1 {\sqrt{2\pi}}e^{-x^2/2}$$

Możesz obliczyć jego moment, taki jak średnia i odchylenie standardowe, i użyć go na transformowanych zmiennych i funkcjach na losowych normalnych itp.

Możesz pomyśleć o MGF normalnej dystrybucji jako alternatywie dla PDF. Zawiera tę samą ilość informacji. Już pokazałem, jak uzyskać średnią.

$$\sigma^2=\int_{-\infty}^\infty x^2\frac 1 {\sqrt{2\pi}}e^{-x^2/2} dx=?$$ $M(t)=e^{t^2/2}$ $$\sigma^2=\frac {d^2} {dt^2}M(t)|_{t=0}=\frac d {dt} t |_{t=0}=1$$