Bezstronny, pozytywny estymator kwadratu średniej

Załóżmy, że mamy dostęp do próbek iid z rozkładu o prawdziwej (nieznanej) średniej i wariancji , i chcemy oszacować . $\mu, \sigma^2$ $\mu^2$

Jak zbudować obiektywny, zawsze pozytywny estymator tej ilości?

Biorąc kwadrat próbki, średnia jest tendencyjna i zawyża ilość, szczególnie. jeśli jest bliskie 0, a jest duże. $\tilde{\mu}^2$ $\mu$ $\sigma^2$

To być może trywialne pytanie, ale moje umiejętności Google go zawiodły, ponieważ estimator of mean-squaredtylko powracamean-squarred-error estimators

Jeśli to ułatwi sprawę, można założyć, że podstawowy rozkład jest Gaussowski.

Rozwiązanie:

Możliwe jest zbudowanie obiektywnego oszacowania ; patrz odpowiedź knrumsey $\mu^2$
Nie jest możliwe zbudowanie obiektywnej, zawsze dodatniej oceny ponieważ te wymagania są w konflikcie, gdy prawdziwa średnia wynosi 0; patrz odpowiedź Winksa $\mu^2$

mean unbiased-estimator

— Mruga
źródło

Być może zamiast tego wyszukaj estymator średniej kwadratowej lub estymator kwadratu średniej . Kiedy czytałem twój tytuł, byłem również zdezorientowany (podobnie jak Google), więc edytowałem go, aby był bardziej intuicyjny.

— Richard Hardy,

Odpowiedzi:

Zauważ, że średnia próbki $\bar{X}$ jest również zwykle dystrybuowane ze średnią $\mu$ i wariancja $\sigma^2/n$ . To znaczy że

mi ({\bar{X}}^{2)}) = mi (\bar{X})^{2)} + Var (\bar{X}) = μ^{2)} + \frac{σ^{2)}}{n}

$\operatorname E(\bar{X}^2) = \operatorname E(\bar{X})^2 + \operatorname{Var}(\bar{X}) = \mu^2 + \frac{\sigma^2}n$

Jeśli zależy Ci jedynie na obiektywnym oszacowaniu, możesz skorzystać z faktu, że wariancja próby jest obiektywna $\sigma^2$ . Oznacza to, że estymator

\hat{μ^{2)}} = {\bar{X}}^{2)} - \frac{{S.}^{2)}}{n}

$\widehat{\mu^2} = \bar{X}^2 - \frac{S^2}n$ jest bezstronny dla

μ^{2}

$\mu^2$ .

— knrumsey
źródło

Dzięki za wkład! Jest to dobra obserwacja, ale nie spełnia zawsze pozytywnych wymagań; biorąc pod uwagę próbki {-1, 1}, średnia próbki wynosi 0, a wariancja próbki wynosi 2, co prowadzi do oszacowania

\hat{μ^{2}}

$\hat{\mu^2}$ z -1.

— Mruga

Jeśli się uwzględni

(\bar{X}, S^{2})

$(\bar{X},S^2)$ jest minimalna wystarczająca i kompletna, ten obiektywny estymator powinien być tym, który ma minimalną wariancję.

— Xi'an

@ Winks To jest właśnie powód, dla którego jest to przykład absurdalnego obiektywnego estymatora.

— StubbornAtom

Bardzo interesujące. Prosty estymator niebazowy wykorzystujący dwie obserwacje

X_{1}

$X_1$ i

X_{2}

$X_2$ jest

X_{1} X_{2}

$X_1X_2$ , tak jak

E (X_{1} X_{2}) = E (X_{1}) E (X_{2}) = μ^{2}

$E(X_1 X_2) = E(X_1)E(X_2) = \mu^2$ . Oczywiście nie jest to tak dobry estymator, ale wyjaśnia, że jakikolwiek wielomian w

μ

$\mu$ ma niedostosowany estymator, który moim zdaniem był interesujący.

— Paul Harrison

Nie powinno być możliwe stworzenie estymatora, który byłby zarówno obiektywny, jak i zawsze dodatni $\mu^2$ .

Jeśli prawdziwa średnia wynosi 0, estymator musi w oczekiwaniu zwrócić 0, ale nie może wypisywać liczb ujemnych, dlatego też nie wolno również wypisywać liczb dodatnich, ponieważ byłoby to stronnicze. Bezstronny, zawsze dodatni estymator tej ilości musi zatem zawsze zwracać poprawną odpowiedź, gdy średnia wynosi 0, niezależnie od próbek, co wydaje się niemożliwe.

odpowiedź knrumsey pokazuje, jak skorygować odchylenie estymatora średniej kwadratowej próbki, aby uzyskać obiektywne oszacowanie $\mu^2$ .

— Mruga
źródło

Jest to dość stary artykuł Jima Bergera, który potwierdza ten fakt, ale nie mogę go prześledzić. Problem pojawia się również w Monte Carlo w przypadku debiutujących estymatorów, takich jak Russian Roulette.

— Xi'an,