Jakie są wady prawdopodobieństwa profilu?

Rozważ wektor parametrów , przy czym to parametr będący przedmiotem zainteresowania, a parametr uciążliwy. $(\theta_1, \theta_2)$ $\theta_1$ $\theta_2$

Jeśli jest prawdopodobieństwo wykonana z danych prawdopodobieństwo profil dla jest określona jako , gdzie jest MLE z $L(\theta_1, \theta_2 ; x)$ $x$ $\theta_1$ $L_P(\theta_1 ; x) = L(\theta_1, \hat{\theta}_2(\theta_1) ; x)$ $\hat{\theta}_2(\theta_1)$ $\theta_2$ dla stałej wartości . $\theta_1$

Maksymalizacja prawdopodobieństwo profilu względem prowadzi do tego samego oszacowania jako uzyskanej poprzez zwiększenie prawdopodobieństwa równolegle względem i . $\bullet$ $\theta_1$ $\hat{\theta}_1$ $\theta_1$ $\theta_2$

myślę odchylenie standardowe może być również określona na drugiej pochodnej prawdopodobieństwa profilu. $\bullet$ $\hat{\theta}_1$

Statystykę prawdopodobieństwo dla może być zapisana w odniesieniu do profilu prawdopodobieństwo: $\bullet$ $H_0: \theta_1 = \theta_0$ . $LR = 2 \log( \tfrac{L_P(\hat{\theta}_1 ; x)}{L_P(\theta_0 ; x)})$

Wygląda więc na to, że prawdopodobieństwa profilu można użyć dokładnie tak, jakby to było prawdziwe prawdopodobieństwo. Czy to naprawdę tak jest? Jakie są główne wady tego podejścia? A co z „plotką”, że estymator uzyskany z prawdopodobieństwa profilu jest stronniczy (edytuj: nawet asymptotycznie)?

maximum-likelihood likelihood profile-likelihood

— ocram
źródło

tylko uwaga, estymatory prawdopodobieństwa mogą być również stronnicze, klasycznym przykładem jest oszacowanie wariancji prawdopodobieństwa dla próbki normalnej.

— mpiktas

@mpiktas: Dziękujemy za komentarz. Rzeczywiście, klasyczny mle może być również stronniczy. Przeredaguję pytanie, aby wszystko było bardziej zrozumiałe.

— ocram

jakie jest asymptotyczne nastawienie? Czy mówisz o niespójnych estymatorach?

— mpiktas

@mpiktas: Tak, tak powinienem powiedzieć ...

— ocram

$\theta_1$ $\theta_2$ $\theta_1$ $\theta_1$ $(\theta_1, \theta_2)$ łącznie.

$\hat{\theta}_1$ $\theta_2$ .

McCullagh i Nelder, Uogólnione modele liniowe, 2. wydanie , mają krótki rozdział na temat prawdopodobieństwa profilu (Sec 7.2.4, str. 254-255). Mówią:

[A] przybliżone zestawy ufności można uzyskać w zwykły sposób ... takie przedziały ufności są często zadowalające, jeżeli [ $\theta_2$ ] jest niewielki w stosunku do wszystkich informacji Fishera, ale w przeciwnym razie może wprowadzać w błąd .... Niestety [prawdopodobieństwo dziennika profilu] nie jest funkcją prawdopodobieństwa dziennika w zwykłym znaczeniu. Oczywiście jego pochodna nie ma średniej zerowej, właściwości niezbędnej do oszacowania równań.

— Karl
źródło

Bardzo dziękuję za odpowiedź. Przed zaakceptowaniem pozwól, że zapytam o coś więcej. Jakie są implikacje

E \frac{\partial l_{P} (θ_{1})}{\partial θ_{1}} \neq 0

$E \frac{\partial l_P(\theta_1)}{\partial \theta_1} \neq 0$ ?

— ocram

Ciekawe pytanie, choć wymagało wycieczki na półkę z książkami (co i tak powinienem był zrobić). Dodałem trochę do mojej odpowiedzi na ten temat.

— Karl

Dziękuję bardzo za edycję. Mówi się, że właściwość (wynik oceniany przy prawdziwej wartości parametru ma średnią zero) jest niezbędny do oszacowania równań. Ale chociaż prawdopodobieństwo dziennika profilu nie spełnia tej właściwości, powoduje MLE. Czy coś mi brakuje?

— ocram

Ta właściwość nie jest konieczna do zapewnienia MLE.

— Karl