Czy społeczność ucząca się na maszynie nadużywa „uwarunkowana” i „sparametryzowana przez”?

Powiedzmy, że zależy od . Rygorystycznie rzecz biorąc, $X$ $\alpha$

jeśli i są zmiennymi losowymi, moglibyśmy napisać ; $X$ $\alpha$ $p(X\mid\alpha)$
jeśli jednak jest zmienną losową, a jest parametrem, musimy zapisać . $X$ $\alpha$ $p(X; \alpha)$

Zauważyłem kilkakrotnie, że społeczność ucząca się maszyn wydaje się ignorować różnice i nadużywać warunków.

Na przykład w słynnym modelu LDA, gdzie jest parametrem Dirichleta zamiast zmiennej losowej. $\alpha$

wprowadź opis zdjęcia tutaj

Czy nie powinno to być ? Widzę wielu ludzi, w tym oryginalnych autorów artykułu LDA, piszących to jako . $p(\theta;\alpha)$ $p(\theta\mid\alpha)$

machine-learning terminology

— Hazard Sibbs
źródło

Z matematycznego punktu widzenia zawsze można warunkować stałą, ponieważ jest to ograniczający przypadek zmiennej losowej. Z punktu widzenia bayesowskiego wszystkie niewiadome są traktowane jak zmienne losowe, więc sensowne jest stosowanie całego zapisu warunkowego.

— Xi'an

@ Xi'an Rozumiem twój punkt widzenia na „warunkowanie na stałym”. Ale wyobraź sobie, że rysuję

z kategorycznego rozkładu parametru

, tj.

. Czy mogę zapisać rozkład jako

? Wydaje mi się to dziwne, ponieważ zawsze można ustawić stałe

wydaje mi się wygodniejszy.

X

$X$

θ

$\theta$

X \sim C a t (θ)

$X\sim Cat(\theta)$

p (X ∣ θ)

$p(X\mid\theta)$

θ

$\theta$

p (X; θ)

$p(X;\theta)$

— Sibbs Gambling

p (X ∣ θ)

$p(X\mid\theta)$

Myślę, że chodzi tu bardziej o statystyki bayesowskie / nie bayesowskie niż o uczenie maszynowe vs. statystyki.

$X,\alpha$ $p(X \mid \alpha)$ $X$ $\alpha$ $\alpha$ $\alpha$ $p(X; \alpha)$ $p(X \mid \alpha)$ $p(\alpha)$ $\alpha$ $\alpha$ $\alpha$

$p(X ; \alpha)$ $p(X \mid \alpha)$ $p$ $\mid$

— Juho Kokkala
źródło