Dlaczego

Sekwencja estymatorów $U_n$ dla parametru $\theta$ jest asymptotycznie normalny czy $\sqrt{n}(U_n - \theta) \to N(0,v)$ . (źródło) Następnie nazywamy $v$ asymptotyczną wariancją $U_n$ . Jeśli ta wariancja jest równawiązaniu Cramer-Rao, mówimy, że estymator / sekwencja jest asymptotycznie skuteczna.

Pytanie: Dlaczego używamy $\sqrt{n}$ zwłaszcza?

Wiem, że dla próbki średniej ten wybór normalizuje go. Ale ponieważ powyższe definicje dotyczą więcej niż średnia próbki, dlaczego nadal wybieramy normalizację do $Var(\bar{X}) = \frac{\sigma^2}{n}$ . $\sqrt{n}$

estimation asymptotics efficiency

— bezradny
źródło

Dla dobrego estymatora,

powinna mieć średnią

, szacowany parametr, a wariancja

powinna zbiegać się do

, to znaczy rozkład

powinien być zbieżny do rozkładu zdegenerowanego z pojedynczym atomem w

. Istnieje jednak wiele różnych sposobów, na jakie może wystąpić ta zbieżność, np.

lub

U_{n}

$U_n$

θ

$\theta$

U_{n}

$U_n$

0

$0$

U_{n}

$U_n$

θ

$\theta$

U_{n} \sim U (θ - 1 / n, θ + 1 / n)

$U_n \sim U(\theta-1/n,\theta+1/n)$

itd. Chcemy zastosować soubriquet w sposóbasymptotycznie normalnyw drugim przypadku, ale nie w pierwszym przypadku.

U_{n} \sim N (θ, v / n)

$U_n\sim N(\theta,v/n)$

— Dilip Sarwate

Wydajne estymatory są asymptotycznie normalne. en.wikipedia.org/wiki/…

— Khashaa

Czy to pytanie można by lepiej nazwać „normą asymptotyczną” niż „skutecznością asymptotyczną”? Nie jest dla mnie jasne, gdzie „wydajność” staje się merytorycznym aspektem pytania, a nie tylko kontekst, w którym napotkano „asymptotyczną normalność”.

— Silverfish,

Trzeba tylko sprawdzić dowód na asymptotyczną normalność MLE! Pierwiastek kwadratowy

ma uczynić centralne twierdzenie graniczne mające zastosowanie do średniej próbki!

n

$n$

— Megadeth,

Odpowiedzi:

Nie możemy tutaj wybierać . Czynnik „normalizujący” jest w istocie czynnikiem „stabilizującym wariancję na coś skończonego”, tak aby wyrażenie nie przechodziło do zera lub do nieskończoności, gdy wielkość próbki zmierza do nieskończoności, ale aby utrzymać rozkład na granicy.

Tak więc musi być w każdym przypadku czymkolwiek musi być. Oczywiście interesujące jest to, że w wielu przypadkach okazuje się, że musi być . (ale patrz także komentarz @ whubera poniżej). $\sqrt n$

Standardowy przykład, w którym czynnikiem normalizującym musi być , a nie $n$ jest wtedy, gdy mamy model $\sqrt n$

y_{t} = β y_{t - 1} + u_{t}, y_{0} = 0, t = 1, . . ., T

$y_t = \beta y_{t-1} + u_t, \;\; y_0 = 0,\; t=1,...,T$

z białym szumem, i szacujemy nieznany według zwykłych najmniejszych kwadratów. $u_t$ $\beta$

Jeśli tak się stanie, to prawdziwa wartość współczynnika wynosi , wtedy estymator OLS jest spójny i zbiega się w zwykłym $|\beta|<1$ stawka . $\sqrt n$

Ale jeśli zamiast tego prawdziwa wartość wynosi (tzn. Mamy w rzeczywistości czysty losowy spacer), to estymator OLS jest spójny, ale zbiega się „szybciej”, w tempie (jest to czasami nazywane „superkonsekwentnym” estymatorem - od czasu Chyba, tak wiele estymatorów zbiegają się w tempie $\beta=1$ $n$ ). W tym przypadku, w celu uzyskania jego (nienormalnych) rozkład asymptotyczną, żemająskaliprzez(jeśli skala tylko $\sqrt n$
$(\hat \beta - \beta)$ $n$ wyrażenie wyniesie zero). Hamilton ch 17ma szczegóły. $\sqrt n$

— Alecos Papadopoulos
źródło

Alecos, można wyjaśnić, co jest szacowana w modelu

(gdzie przypuszczam chodziło

i obserwacje są indeksowane

itd.). Jest to, że w modelu

OLS estymator

zbiega przy szybkości

y_{t} = y_{t - 1} + u_{t}, u_{0} = 0

$y_t = y_{t-1}+u_t, u_0=0$

y_{0} = 0

$y_0=0$

1, 2,

$1, 2,$

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$

\hat{β}

$\hat{\beta}$

dla

ale gdykonwergencja

ma wartość

, czy też w modelu

konwergencja ma zawsze wartość

? Krótko mówiąc, jakie jest znaczenie zdania „i

, tzn. Czysty losowy spacer”?

\sqrt{n}

$\sqrt{n}$

| β | < 1

$|\beta| < 1$

β = 1

$\beta=1$

n

$n$

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$

n

$n$

β = 1

$\beta=1$

— Dilip Sarwate,

@DilipSarwate Thanks. Zaktualizowano Wierzę, że teraz jest jasne.

— Alecos Papadopoulos,

(+1) Warto zauważyć i pouczyć, że wybór

(lub

lub cokolwiek może być odpowiednie) nie jest unikalne. Zamiast tego możesz użyćdowolnejfunkcji

\sqrt{n}

$\sqrt{n}$

n

$n$

f (n)

$f(n)$ dla której wartość graniczna

równa się jedności. Tylko w tym szerszym znaczeniu

„musi być tym, czym musi być”.

f (n) / \sqrt{n}

$f(n)/\sqrt{n}$

f

$f$

— whuber

@Khashaa OP zapytał o wydajność asymptotyczną, ale w trakcie procesu ujawniono, że OP mógł mieć błędne wrażenie na temat czynników „normalizujących”. Jest to kwestia bardziej fundamentalna, dlatego postanowiłem to uwzględnić w mojej odpowiedzi. W mojej odpowiedzi nic nie zostało powiedziane na temat wydajności.

— Alecos Papadopoulos,

Być może warto wspomnieć w swojej odpowiedzi, że przypadek z

zamiast

n

$n$

\sqrt{n}

$\sqrt{n}$

Byłeś na dobrej drodze z intuicyjną próbką średniej wariancji. Ponownie ustaw warunek:

\sqrt{n} (U_{n} - θ) \to N (0, v)

$\sqrt{n}(U_n - \theta) \to N(0,v)$

(U_{n} - θ) \to \frac{N (0, v)}{\sqrt{n}}

$(U_n - \theta) \to \frac{N(0,v)}{\sqrt{n}}$

U_{n} \to N (θ, \frac{v}{n})

$U_n \to N(\theta,\frac{v}{n})$

The last equation is informal. However, it's in some way more intuitive: you say that the deviation of $U_n$ from $\theta$ is becoming more like a normal distribution when $n$ increases. The variance is shrinking, but the shape becomes closer to normal distribution.

In math they don't define the convergence to the changing right hand side ( $n$ is varying). That's why the same idea is expressed as the original condition, that you gave. In which the right hand side is fixed, and the left hand side converges to it.

— Aksakal
źródło

You could explain how you do the "re-arrangements". Like what properties you apply.

— mavavilj