Dla jakiego problemu lub gry optymalne są wariancja i odchylenie standardowe?

Dla danej zmiennej losowej (lub populacji, lub procesu stochastycznego) oczekiwanie matematyczne jest odpowiedzią na pytanie: Która prognoza punktowa minimalizuje oczekiwaną stratę kwadratową? . Jest to również optymalne rozwiązanie dla gry. Zgadnij, kiedy zrealizujesz losową zmienną (lub nowe losowanie z populacji), a ja ukarzę cię kwadratową odległością między wartością a twoim zgadnięciem, jeśli masz liniową nieporozumienie kary. Mediana jest odpowiedzią na odpowiadające pytanie przy całkowitej stracie, a tryb jest odpowiedzią pod stratą „wszystko albo nic”.

Pytania: Czy wariancja i odchylenie standardowe odpowiadają na podobne pytania? Czym oni są?

Motywacja tego pytania wynika z nauczania podstawowych miar tendencji centralnej i rozprzestrzeniania się. Podczas gdy miary tendencji centralnej mogą być motywowane powyższymi problemami teoretycznymi, zastanawiam się, jak można zmotywować miary rozprzestrzeniania się.

— Richard Hardy
źródło

Bardzo interesujące pytanie. Moje początkowe podejście byłoby takie, że „gra” jest jakościowo taka sama, jak to, co już opisałeś, z tym wyjątkiem, że pytanie oczekuje (żadna gra słów nie jest zamierzona), że odpowiedź będzie dotyczyła zakresu wartości zamiast jednego punktu, ponieważ rozprzestrzeniła się bez punktu odniesienie jest raczej niekompletną (jeśli nie bez znaczenia) informacją.

— Emil

Zauważ, że wariancja sama w sobie jest oczekiwaniem - jeśli to .

Y = (X - μ)^{2}

$Y=(X-\mu)^2$

Var (X) = E (Y)

$\text{Var}(X)=E(Y)$

— Glen_b

@Glen_b, masz rację i zrozumiałem (powinienem to uwzględnić w tekście pytania). „Odgadnij różnicę między następną wartością a oczekiwaniami, a ja ukarzę cię kwadratowo” będzie gra. Czy to jest najlepsze? IMHO nie brzmi bardzo praktycznie ani nie sprawia przyjemności.

— Richard Hardy,

Jeśli zrozumiałem pytanie zgodnie z zamierzeniami, masz na myśli ustawienie, w którym możesz uzyskać niezależne realizacje dowolnej zmiennej losowej o dowolnym rozkładzie (posiadającym skończoną wariancję ). „Gry” określa się na podstawie funkcji i , który zostanie opisany. Składa się z następujących kroków i zasad: $X$ $F$ $\sigma^2(F)$ $h$ $\mathcal L$

Twój przeciwnik („Natura”) ujawnia $F.$
W odpowiedzi tworzysz liczbę swoją „prognozę”. $t(F),$

Aby ocenić wynik gry, wykonuje się następujące obliczenia:

Próbkę iid obserwacji pochodzi z $n$ $\mathbf{X}=X_1, X_2, \ldots, X_n$ $F.$
Z góry określona funkcja jest stosowana do próbki, tworząc liczbę „statystykę”. $h$ $h(\mathbf{X}),$
„Funkcja straty” porównuje twoje „przewidywanie” ze statystyką tworząc liczbę nieujemną $\mathcal{L}$ $t(F)$ $h(\mathbf{X}),$ $\mathcal{L}(t(F), h(\mathbf{X})).$
Wynikiem gry jest oczekiwana strata (lub „ryzyko”)
$R_{(L, h)} (t, F) = E (L (t (F), h (X))) .$ $R_{(\mathcal{L}, h)}(t, F) = E(\mathcal{L}(t(F), h(\mathbf{X}))).$

Twoim celem jest zareagowanie na ruch Natury poprzez określenie które minimalizuje ryzyko. $t$

Na przykład w grze z funkcją i każdą utratą formy dla pewnej liczby dodatniej twoim optymalnym ruchem jest wybrać jako oczekiwanie na $h(X_1)=X_1$ $\mathcal{L}(t, h) = \lambda(t-h)^2$ $\lambda,$ $t(F)$ $F.$

Pytanie przed nami brzmi:

Może istnieją i dla których optymalny ruch jest wybranie za odchylenie ? $\mathcal{L}$ $h$ $t(F)$ $\sigma^2(F)$

Łatwo na to odpowiedzieć, pokazując wariancję jako oczekiwanie. Jednym ze sposobów jest ustalenie, że i kontynuowanie korzystania z straty kwadratowej Po zaobserwowaniu tego

h (X_{1}, X_{2}) = \frac{1}{2} (X_{1} - X_{2})^{2}

$h(X_1,X_2) = \frac{1}{2}(X_1-X_2)^2$

L (t, h) = (t - h)^{2} .

$\mathcal{L}(t,h) = (t-h)^2.$

E (h (X)) = σ^{2} (F),

$E(h(\mathbf{X})) = \sigma^2(F),$

przykład pozwala nam dojść do wniosku, że ten i ten odpowiadają na pytanie dotyczące wariancji. $h$ $\mathcal L$

Co z odchyleniem standardowym ? Ponownie musimy to tylko przedstawić jako oczekiwanie na przykładową statystykę. Nie jest to jednak możliwe, ponieważ nawet jeśli ograniczymy do rodziny rozkładów Bernoulliego , możemy uzyskać tylko obiektywne estymatory funkcji wielomianowych ale nie jest funkcją wielomianową w domenie (Zobacz Ogólny argument dotyczący rozkładów dwumianowych, dla którego nie istnieje obiektywny estymator dla ? , dla którego to pytanie można zmniejszyć po uśrednieniu $\sigma(F)$ $F$ $(p)$ $p,$ $\sigma(F) = \sqrt{p(1-p)}$ $p\in (0,1).$ $1/p$ $h$ we wszystkich permutacjach) $X_i.$

— Whuber
źródło

Dziękuję za wyraźne sformułowanie mojego pytania i równie jasną odpowiedź. Czy miałbyś również przykład który zależy od wszystkich punktów próbki, a nie tylko dwóch?

h

$h$

n

$n$

— Richard Hardy,

Istnieje standardowy sposób przejścia z na : obliczenie statystyki dla wszystkich par i średniej. Rzeczywiście, to daje moją charakterystykę kowariancji na stats.stackexchange.com/a/18200/919 . Dla formalnej teorii to, przeczytać o statystyki U .

2

$2$

n

$n$

— whuber

Dziękuję Ci bardzo!

— Richard Hardy