Czy teoria szacowania obiektywnego wariancji minimalnej wariancji jest zbyt mocno podkreślana w szkołach wyższych?

Ostatnio byłem bardzo zawstydzony, kiedy podałem mankietową odpowiedź na temat obiektywnych oszacowań minimalnej wariancji dla parametrów rozkładu jednolitego, które były całkowicie błędne. Na szczęście natychmiast zostałem poprawiony przez kardynała i Henry'ego, a Henry podał prawidłowe odpowiedzi dla OP .

To mnie jednak zastanowiło. Teorii najlepszych obiektywnych estymatorów nauczyłem się w mojej klasie absolwentów matematyki w Stanford około 37 lat temu. Mam wspomnienia o twierdzeniu Rao-Blackwella, dolnej granicy Cramera-Rao i twierdzeniu Lehmanna-Scheffego. Ale jako statystyk stosowany nie myślę zbyt wiele o UMVUE w moim codziennym życiu, podczas gdy oszacowanie maksymalnego prawdopodobieństwa często się pojawia.

Dlaczego? Czy zbyt mocno akcentujemy teorię UMVUE w szkołach wyższych? Chyba tak. Przede wszystkim bezstronność nie jest istotną własnością. Wiele doskonale dobrych MLE jest stronniczych. Estymatory skurczu Stein'a są tendencyjne, ale dominują w obiektywnym MLE pod względem utraty średniego kwadratu błędu. Jest to bardzo piękna teoria (oszacowanie UMVUE), ale bardzo niekompletna i myślę, że niezbyt przydatna. Co myślą inni?

estimation point-estimation

— Michael Chernick
źródło

(+1) Zgadzam się, że byłoby to dobre pytanie na głównej stronie i będę go głosować. Jest to nieco subiektywne, więc może być najlepsze jako pytanie CW. (Poza tym nie ma powodu się wstydzić.)

— kardynał

Nie sądzę, że ogólnie rzecz biorąc, tego rodzaju szacunki są przeceniane. Pamiętam, że moi profesorowie bardziej koncentrowali się na przykładach, w których UMVUE są „głupi”. Ludzie ze względów bezpieczeństwa używają estymatorów punktowych należących do popularnych teorii, ale istnieje pełna teoria szacowania równań. Niektórzy profesorowie koncentrują się na UMVUE, ponieważ są dobrym źródłem trudnych problemów w odrabianiu prac domowych. Myślę, że redukcja uprzedzeń jest obecnie bardziej popularną i przydatną teorią niż znalezienie UMVUE (które nie zawsze istnieją).

Widzimy tu wiele pytań na UMVUE, ponieważ sprawiają one problemy w zadaniach domowych. Być może jest to większy problem w przypadku programów statystycznych na poziomie licencjackim i magisterskim niż programów doktoranckich.

— Michael R. Chernick,

Oszacowanie UMVU jest klasycznym pomysłem, więc może warto tego uczyć? Jest to dobry punkt wyjścia do dyskusji / krytykowania kryteriów, takich jak bezstronność! Tylko dlatego, że nie są tak często używane w praktyce, samo w sobie nie ma powodu, aby ich nie uczyć.

— kjetil b halvorsen

Nacisk może się różnić w zależności od czasu i działów. Mój dział przedstawia materiał z pierwszego roku statystyki matematycznej, ale potem już go nie ma, więc nie mogłem rozsądnie powiedzieć, że jest przeceniony (nawet na kursie doktoranckim zwykle nie jest nauczany, na korzyść więcej czas z estymatorami bayesowskimi i minimaksowymi, dopuszczalności i estymacji wielowymiarowej), chociaż chciałbym, aby większy nacisk kładziono na to, dlaczego stronniczość jest użyteczna, a zatem dlaczego bezstronna ocena jest niepotrzebnie ekstremalnym paradygmatem.

— facet

Odpowiedzi:

Wiemy to

Jeśli są losową próbką to dla dowolnego jest UE $X_1,X_2, \dots X_n$ $Poisson(\lambda)$ $\alpha \in (0,1),~T_\alpha =\alpha \bar X+(1-\alpha)S^2$ $\lambda$

Stąd istnieje nieskończenie wiele UE . Teraz pojawia się pytanie, który z nich wybrać? więc nazywamy UMVUE. Bezstronność nie jest dobrą własnością, ale UMVUE jest dobrą własnością. Ale to nie jest bardzo dobre. $\lambda$

Jeśli będą losową próbką z to minimalny estymator MSE w postaci , z dla parametru , to Ale jest stronnicze, że to nie jest UMVUE, choć najlepiej pod względem minimalnego MSE. $X_1,X_2, \dots X_n$ $N(\mu, \sigma^2)$ $T_\alpha =\alpha S^2$ $(n-1)S^2=\sum_{i=1}^{n}(X_i-\bar X)^2$ $\sigma^2$ $\frac{n-1}{n+1}S^2=\frac{1}{n+1}\sum_{i=1}^{n}(X_i-\bar X)^2$

Zauważ, że twierdzenie Rao-Blackwella mówi, że aby znaleźć UMVUE, możemy skoncentrować się tylko na tych UE, które są funkcją wystarczającej statystyki , czyli UMVUE jest estymatorem, który ma minimalną wariancję między wszystkimi UE, które są funkcją wystarczającej statystyki. Dlatego UMVUE jest koniecznie funkcją wystarczającej statystyki.

Zarówno MLE, jak i UMVUE są dobre z punktu widzenia. Ale nigdy nie możemy powiedzieć, że jeden z nich jest lepszy od drugiego. W statystykach mamy do czynienia z niepewnymi i losowymi danymi. Dlatego zawsze istnieje możliwość poprawy. Możemy uzyskać lepszy estymator niż MLE i UMVUE.

Myślę, że nie przeceniamy zbytnio teorii UMVUE w szkołach wyższych. Jest to wyłącznie mój osobisty pogląd. Myślę, że etap ukończenia szkoły to etap nauki. Więc absolwent musi mieć dobrą podstawę na temat UMVUE i innych estymatorów,

— Argha
źródło

Myślę, że każda ważna teoria wnioskowania jest dobra. Chociaż bezstronność może być dobrą właściwością, uprzedzenie niekoniecznie jest złe. Kiedy nacisk kładziony jest na UMVUE, może występować tendencja do przypisywania mu „optymalności”. Ale może nie być żadnych bardzo dobrych estymatorów w klasie obiektywnych estymatorów. Dokładność jest ważna i obejmuje zarówno stronniczość, jak i wariancję. Lepsze w MLE jest to, że istnieją warunki, w których można wykazać, że jest asymptotycznie skuteczny.

— Michael R. Chernick,

Zauważ, że twierdzenie Rao-Blackwella może być również wykorzystane do ulepszenia dowolnego stronniczego estymatora, tworząc ulepszony estymator z tym samym nastawieniem.

— kjetil b halvorsen

Być może artykuł Brada Efrona „Maksymalne prawdopodobieństwo i teoria decyzji” może pomóc w wyjaśnieniu tego. Brad wspomniał, że jedną z głównych trudności związanych z UMVUE jest to, że generalnie jest trudny do obliczenia, aw wielu przypadkach nie istnieje.

— Jiantao Jiao
źródło