Bezstronny estymator dla modelu AR ( )

Rozważ model AR ( ) (zakładając zero dla uproszczenia): $p$

x_{t} = φ_{1} x_{t - 1} + \dots + φ_{p} x_{t - p} + ε_{t}

$x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t$

Oszacowano, że estymator OLS (równoważny estymatorowi warunkowego maksymalnego prawdopodobieństwa) dla jest tendencyjny, jak zauważono w ostatnim wątku . $\mathbf{\varphi} := (\varphi_1,\dotsc,\varphi_p)$

(Co ciekawe, nie mogę znaleźć nastawienie mowa w Hamilton „Analiza szeregów czasowych” , ani w kilku innych podręczników szeregów czasowych. Jednakże, można je znaleźć w różnych notatek i artykułów naukowych, np ten ).

Nie byłem w stanie dowiedzieć się, czy dokładny estymator maksymalnego prawdopodobieństwa AR ( ) jest stronniczy, czy nie; stąd moje pierwsze pytanie. $p$

Pytanie 1: Czy dokładne oszacowanie maksymalnego prawdopodobieństwa parametrów autoregresyjnych modelu AR ( ) tendencyjne? (Załóżmy, że proces AR ( ) jest stacjonarny. W przeciwnym razie estymator nie jest nawet spójny, ponieważ jest ograniczony w obszarze stacjonarnym; patrz np. Hamilton „Analiza szeregów czasowych” , s. 123.) $p$ $\varphi_1,\dotsc,\varphi_p$ $p$

Również,

Pytanie 2: Czy są jakieś rozsądnie proste obiektywne estymatory?

— Richard Hardy
źródło

Jestem pewien, że estymator ML w AR (p) jest tendencyjny (istnienie granicy stacjonarności sugeruje, że będzie tendencyjny), ale nie mam na to obecnie dowodu (większość estymatorów ML jest tendencyjna sprawa, ale mamy tu jeszcze coś więcej). [Osobiście nie uważam bezstronności za szczególnie przydatną własność, przynajmniej ogólnie - to jest jak stary żart o statystykach polujących na kaczki. Ceteris paribus, mając go lepiej, oczywiście niż nie, ale w praktyce ceteris nigdy nie są paribusem . Jest to jednak ważna koncepcja. ]

— Glen_b -Reinstate Monica

Pomyślałem, że bezstronność byłaby pożądana podczas pracy w małych próbkach i właśnie spotkałem się z takim przypadkiem . W moim rozumieniu bezstronność była w tym przypadku bardziej pożądana niż, powiedzmy, wydajność, o ile wydajność można było określić ilościowo.

— Richard Hardy,

Tam, gdzie odchylenie może nie być małe (jak w małych próbkach), naprawdę szukałem czegoś bardziej jak minimalny średni błąd kwadratowy. Jaki jest sens dbania o to, że twoje oszacowanie może być średnio błędne, podczas gdy w rzeczywistości twoje alternatywne oszacowanie może być znacznie bardziej błędne, ponieważ ma dużą wariancję? np. jeśli moje odchylenie w tej wielkości próbki dla tego wynosi 0,1, to może być niepokojąco duże, więc powiesz „użyjmy obiektywnego estymatora” ... ale jeśli błąd standardowy jest wystarczająco duży, że moje oszacowanie jest zwykle jeszcze większe od poprawna wartość ... czy jest mi lepiej? ... ctd

ϕ

$\phi$

— Przywróć Monikę

ctd. ... Nie sądzę (przynajmniej nie do moich zwykłych celów i prawie nigdy nie widziałem dobrego argumentu na rzecz bezstronności w praktycznej sytuacji, w której coś bardziej podobnego do MMSE nie byłoby lepsze). Zależy mi na tym, jak błędne jest to oszacowanie - jak daleko mogę się od prawdziwej wartości - nie na tym, jak bardzo zmienia się średnia, gdybym był w takiej sytuacji jeszcze milion razy. Główną praktyczną wartością przy ustalaniu błędu systematycznego jest sprawdzenie, czy można go łatwo zmniejszyć bez większego wpływu na wariancję.

— Glen_b

Dobry argument, dziękuję. Pomyślę o tym więcej.

— Richard Hardy,

To oczywiście nie jest rygorystyczna odpowiedź na twoje pytanie 1, ale skoro zadałeś pytanie w ogóle, dowody na kontrprzykład już wskazują, że odpowiedź jest przecząca.

Oto małe badanie symulacyjne wykorzystujące dokładne oszacowanie ML od, arima0aby argumentować, że istnieje co najmniej jeden przypadek, w którym występuje błąd systematyczny:

reps <- 10000
n <- 30
true.ar1.coef <- 0.9

ar1.coefs <- rep(NA, reps)
for (i in 1:reps){
  y <- arima.sim(list(ar=true.ar1.coef), n)
  ar1.coefs[i] <- arima0(y, order=c(1,0,0), include.mean = F)$coef
}
mean(ar1.coefs) - true.ar1.coef

— Christoph Hanck
źródło

-1

Zdarza mi się czytać tę samą książkę, którą czytasz i znalazłem odpowiedź na oba pytania.

Bias autoregresji jest wspomniany w książce na stronie 215.

W książce wspomniano również o sposobie korygowania błędu systematycznego na stronie 223. Sposób postępowania polega na iteracyjnym podejściu dwuetapowym.

Mam nadzieję że to pomoże.

— mieszkaniec północy
źródło

Zgodnie z wytycznymi witryny odpowiedzi nie powinny po prostu zawierać odniesień do materiałów w innych miejscach.

— Alexis,