Student t jako mieszanka gaussa

23

Używanie rozkład t-Studenta z stopni swobody, parametr położenia i parametr skali o gęstości $k > 0$ $l$ $s$

\frac{Γ (\frac{k + 1}{2})}{Γ (\frac{k}{2} \sqrt{k π s^{2}})} {1 + k^{- 1} (\frac{x - l}{s})}^{- (k + 1) / 2},

$\frac{\Gamma \left(\frac{k+1}{2}\right)}{\Gamma\left(\frac{k}{2}\sqrt{k \pi s^2}\right)} \left\{ 1 + k^{-1}\left( \frac{x-l}{s}\right)\right\}^{-(k+1)/2},$

jak pokazać, że rozkład Studenta można zapisać jako mieszaninę rozkładów Gaussa, pozwalając , i całkowanie gęstości celu uzyskania gęstości brzeżnej ? Jakie są parametry wynikowej dystrybucji , jako funkcje ? $t$ $X\sim N(\mu,\sigma^2)$ $\tau = 1/\sigma^2\sim\Gamma(\alpha,\beta)$ $f(x,\tau|\mu)$ $f(x|\mu)$ $t$ $\mu,\alpha,\beta$

Zatraciłem się w rachunku różniczkowym całkując łączną gęstość warunkową z rozkładem gamma.

distributions mixture

— Salih Ucan
źródło

31

Plik PDF normalnej dystrybucji to

f_{μ, σ} (x) = \frac{1}{\sqrt{2 π} σ} e^{- \frac{(x - μ)^{2}}{2 σ^{2}}} d x

$f_{\mu, \sigma}(x) = \frac{1}{\sqrt{2 \pi} \sigma} e^{-\frac{(x-\mu )^2}{2 \sigma ^2}}dx$

ale pod względem to jest $\tau = 1/\sigma^2$

g_{μ, τ} (x) = \frac{\sqrt{τ}}{\sqrt{2 π}} e^{- \frac{τ (x - μ)^{2}}{2}} d x .

$g_{\mu, \tau}(x) = \frac{\sqrt{\tau}}{\sqrt{2 \pi}} e^{-\frac{\tau(x-\mu )^2}{2 }}dx.$

Plik PDF z rozkładem gamma to

h_{α, β} (τ) = \frac{1}{Γ (α)} e^{- \frac{τ}{β}} τ^{- 1 + α} β^{- α} d τ .

$h_{\alpha, \beta}(\tau) = \frac{1}{\Gamma(\alpha)}e^{-\frac{\tau}{\beta }} \tau^{-1+\alpha } \beta ^{-\alpha }d\tau.$

Dlatego ich produkt, nieco uproszczony za pomocą łatwej algebry, jest

f_{μ, α, β} (x, τ) = \frac{1}{β^{α} Γ (α) \sqrt{2 π}} e^{- τ (\frac{(x - μ)^{2}}{2} + \frac{1}{β})} τ^{- 1 / 2 + α} d τ d x .

$f_{\mu, \alpha, \beta}(x,\tau) =\frac{1}{\beta^\alpha\Gamma(\alpha)\sqrt{2 \pi}} e^{-\tau\left(\frac{(x-\mu )^2}{2 } + \frac{1}{\beta}\right)} \tau^{-1/2+\alpha}d\tau dx.$

Jego wewnętrzna część ewidentnie ma postać , co czyni ją wielokrotnością funkcji Gamma, gdy jest zintegrowana w pełnym zakresie do . Ta całka jest zatem natychmiastowa (uzyskana poprzez znajomość całki rozkładu gamma jest jednością), dając rozkład krańcowy $\exp(-\text{constant}_1 \times \tau) \times \tau^{\text{constant}_2}d\tau$ $\tau=0$ $\tau=\infty$

f_{μ, α, β} (x) = \frac{\sqrt{β} Γ (α + \frac{1}{2})}{\sqrt{2 π} Γ (α)} \frac{1}{{(\frac{β}{2} (x - μ)^{2} + 1)}^{α + \frac{1}{2}}} .

$f_{\mu, \alpha, \beta}(x) = \frac{\sqrt{\beta } \Gamma \left(\alpha +\frac{1}{2}\right) }{\sqrt{2\pi } \Gamma (\alpha )}\frac{1}{\left(\frac{\beta}{2} (x-\mu )^2+1\right)^{\alpha +\frac{1}{2}}}.$

Próbując dopasować wzór umieszczony na wystaw dystrybucji tam jest błąd w pytaniu: PDF dla rozkładu t Studenta faktycznie jest proporcjonalna do $t$

\frac{1}{\sqrt{k} s} {(\frac{1}{1 + k^{- 1} {(\frac{x - l}{s})}^{2}})}^{\frac{k + 1}{2}}

$\frac{1}{\sqrt{k} s }\left(\frac{1}{1+k^{-1}\left(\frac{x-l}{s}\right)^2}\right)^{\frac{k+1}{2}}$

(moc wynosi , a nie ). Dopasowanie terminów oznacza , , a $(x-l)/s$ $2$ $1$ $k = 2 \alpha$ $l=\mu$ . $s = 1/\sqrt{\alpha\beta}$

Zauważ, że do tego wyprowadzenia nie był potrzebny rachunek różniczkowy: wszystko polegało na sprawdzeniu wzorów plików PDF normalnych i gamma, przeprowadzeniu kilku trywialnych manipulacji algebraicznych obejmujących produkty i moce oraz dopasowaniu wzorców w wyrażeniach algebraicznych (w tej kolejności).

— Whuber
źródło

10

Zainspirowany tą odpowiedzią stworzyłem animację rozkładu t jako mieszankę rozkładów normalnych. Jest dostępny tutaj: sumsar.net/blog/2013/12/t-as-a-mixture-of-normals

— Rasmus Bååth,

1

@ whuber: Technicznie rzecz biorąc, dla tego rodzaju dopasowywania zawsze istnieje niejawne użycie rachunku różniczkowego w twoim rozpoznaniu, że możesz zintegrować gęstość gamma za pomocą znanej postaci całkowej. (Jest to statystyczny odpowiednik ukrywania brokułów przez zmieszanie ich z mięsem i ziemniakami.) Sprytny sposób ukrywania rachunku różniczkowego!

— Przywróć Monikę

1

Nie znam etapów obliczeń, ale znam wyniki z jakiejś książki (nie pamiętam, która ...). Zazwyczaj pamiętam o tym bezpośrednio: :-) Rozkład Studenta ze swobodą stopnia można uznać za rozkład normalny z mieszanką wariancji , gdzie następuje po odwrotnym rozkładzie gamma. Dokładniej, ~ , = $t$ $k$ $Y$ $Y$ $X$ $t(k)$ $X$ *, gdzie~,jest standardową normalną wartością rv. Mam nadzieję, że to może ci w pewnym sensie pomóc. $\sqrt Y$ $\Phi$ $Y$ $IG(k/2,k/2)$ $\Phi$

— Jingjings
źródło

0

Dla uproszczenia przyjmujemy średnią $0$ . Korzystając z reprezentacji, pokazujemy wynik dla całkowitych stopni swobody.

\sqrt{1 / τ} X = Y

$\sqrt{1/\tau} X =Y$ jest równoważne mieszaninie gaussowskiej z tą wcześniejszą: uwarunkowane na

τ

$\tau$ ,

Y

$Y$ jest gaussowskie z dokładnością

τ

$\tau$ , a wcześniejsze

τ

$\tau$ jest pożądane. Potem pozostaje pokazać, że

\sqrt{1 / τ} X

$\sqrt{1/\tau} X$ jest rozkładem T. Możemy napisać

τ \sim Γ (α, β) \sim \frac{β}{2} Γ (α, 2) \sim \frac{β}{2} χ^{2} (2 α)

$\tau \sim \Gamma(\alpha, \beta) \sim \frac{\beta}{2} \Gamma(\alpha, 2) \sim \frac{\beta}{2} \chi^2(2\alpha)$ przy użyciu dobrze znanego wyniku dotyczącego gamma i chi-kwadratów (rozkład gamma jako sumę wykładniczych i łączenie wykładniczych z normalnymi do kwadratów Chi) To z kolei implikuje, że

Y \sim X \frac{1}{\sqrt{(β / 2) χ^{2} (2 α)}}

$Y \sim X \frac{1}{\sqrt{(\beta/2) \chi^2(2\alpha)} }$

= \frac{X \sqrt{α β}}{\sqrt{χ_{2 α}^{2} / (2 α)}}

$= \frac{ X \sqrt{\alpha \beta} }{\sqrt{ \chi^2_{2\alpha}/(2\alpha)}}$ które jest skalowane t przy

k = 2 α

$k=2\alpha$ i

s = 1 / \sqrt{α β}

$s=1/\sqrt{\alpha \beta}$

μ

$\mu$

l

$l$

— Romil Sirohi
źródło