Jaka jest logika metody momentów?

Dlaczego w „Metodzie momentów” porównujemy momenty próbne z momentami populacji w celu znalezienia estymatora punktu?

Gdzie kryje się za tym logika?

intuition method-of-moments

Byłoby miło, gdybyśmy mieli fizyka w naszej społeczności, aby poradził sobie z tym problemem.

— mugen

@mugen, nie widzę żadnego związku z fizyką.

— Aksakal,

@Aksakal wykorzystują również momenty funkcji w fizyce, i zawsze jest miło, gdy ktoś robi analogię dla lepszej interpretacji.

— mugen

Jak wspomniano w tej odpowiedzi , prawo wielkich liczb stanowi uzasadnienie (aczkolwiek asymptotyczne) do oszacowania momentu populacji przez moment próbki, w wyniku czego (często) proste, spójne estymatory

— Glen_b

Czy nie chodzi o to, aby przedstawić parametry za pomocą momentów? Podobnie jak w przypadku próby oszacowania parametru rozkładu Poissona, znajdując średnią (pierwszą chwilę), można użyć go jako estymatora parametru lambda.

— denis631,

Odpowiedzi:

Próbka składająca się z realizacji z identycznie i niezależnie rozmieszczonych zmiennych losowych jest ergodyczna. W takim przypadku „momenty próbne” są spójnymi estymatorami momentów teoretycznych rozkładu wspólnego, jeśli momenty teoretyczne istnieją i są skończone. $n$

To znaczy że

\begin{matrix} (1) & {\hat{μ}}_{k} (n) = μ_{k} (θ) + e_{k} (n), e_{k} (n) \overset{p}{\to} 0 \end{matrix}

$\hat \mu_k(n) = \mu_k(\theta) + e_k(n), \;\;\; e_k(n) \xrightarrow{p} 0 \tag{1}$

Więc przez zrównanie momentu teoretycznego z odpowiednim momentem próbnym, jaki mamy

{\hat{μ}}_{k} (n) = μ_{k} (θ) \Rightarrow \hat{θ} (n) = μ_{k}^{- 1} ({\hat{μ}}_{k} (n)) = μ_{k}^{- 1} [μ_{k} (θ) + e_{k} (n)]

$\hat \mu_k(n) = \mu_k(\theta) \Rightarrow \hat \theta(n) = \mu_k^{-1}(\hat \mu_k(n)) = \mu_k^{-1}[\mu_k(\theta) + e_k(n)]$

Więc ( nie zależy od ) $\mu_k$ $n$

plim \hat{θ} (n) = plim [μ_{k}^{- 1} (μ_{k} (θ) + e_{k})] = μ_{k}^{- 1} (μ_{k} (θ) + plim e_{k} (n))

$\text{plim} \hat \theta(n) = \text{plim}\big[\mu_k^{-1}(\mu_k(\theta) + e_k)\big] = \mu_k^{-1}\big(\mu_k(\theta) + \text{plim}e_k(n)\big)$

= μ_{k}^{- 1} (μ_{k} (θ) + 0) = μ_{k}^{- 1} μ_{k} (θ) = θ

$=\mu_k^{-1}\big(\mu_k(\theta) + 0\big) = \mu_k^{-1}\mu_k(\theta) = \theta$

Robimy to, ponieważ uzyskujemy spójne estymatory dla nieznanych parametrów.

— Alecos Papadopoulos
źródło

co znaczy „plim”? Nie znam „p” w

e_{k} (n) \overset{p}{\to} 0

$e_k(n) \xrightarrow{p} 0$

— użytkownik 31466

@leaf limit prawdopodobieństwa

— Alecos Papadopoulos

Co by się stało, gdyby był to zwykły limit zamiast limitu prawdopodobieństwa?

— użytkownik 31466,

Powiedziałoby nam to, że estymator staje się stały, a nie, że dąży do jednego. Być może powinieneś sprawdzić tryby konwergencji losowych zmiennych, wikipedia ma przyzwoite wprowadzenie, en.wikipedia.org/wiki/Convergence_of_random_variables

— Alecos Papadopoulos

@AlecosPapadopoulos Zgoda. Zastanawiam się więc, czy ma sens umieszczenie czegoś prostego, na przykład „... i pod pewnymi warunkami na ”?

μ_{k}

$\mu_k$

— Jerome Baum,

Ekonometrycy nazywają to „zasadą analogii”. Obliczasz średnią populacji jako wartość oczekiwaną w odniesieniu do rozkładu populacji; obliczasz estymator jako wartość oczekiwaną w odniesieniu do rozkładu próbki, i okazuje się, że jest to średnia próbki. Masz zunifikowane wyrażenie do którego podłączasz populację , powiedzmy lub próbka , więc jest wiązką delta -funkcje i całka (Lebesgue) w odniesieniu do

T (F) = \int t (x) d F (x)

$T(F) = \int t(x) \, {\rm d}F(x)$

F (x)

$F(x)$

F (x) = \int_{\infty}^{x} \frac{1}{\sqrt{2 π σ^{2}}} \exp [- \frac{(u - μ)^{2}}{2 σ^{2}}] d u

$F(x) = \int_{\infty}^x \frac1{\sqrt{2\pi\sigma^2}} \exp\bigl[ - \frac{(u-\mu)^2}{2\sigma^2} \bigr] \, {\rm d}u$

F_{n} (x) = \frac{1}{n} \sum_{i = 1}^{n} 1 {x_{i} \leq x}

$F_n(x) = \frac 1n \sum_{i=1}^n 1\{ x_i \le x \}$

d F_{n} (x)

${\rm d}F_n(x)$

d F_{n} (x)

${\rm d}F_n(x)$ to suma próbki . Jeśli twoje funkcjonalne jest (słabo) różnicowalne, a zbiega się w odpowiednim sensie z , łatwo jest ustalić, że oszacowanie jest spójne, chociaż oczywiście potrzeba więcej hoopli, aby uzyskać powiedzmy asymptotyczną normalność.

\frac{1}{n} \sum_{i = 1}^{n} t (x_{i})

$\frac1n \sum_{i=1}^n t(x_i)$

T (\cdot)

$T(\cdot)$

F_{n} (x)

$F_n(x)$

F (x)

$F(x)$

— StasK
źródło

Nie słyszałem o tak zwanej „zasadzie analogii”, ale jest to często używany wzorzec analizy ekonometrycznej: podłączaj estymator próby, ilekroć parametr populacji jest potrzebny, ale nieznany.

— Aksakal,

@Aksakal: „podłącz estymator próby, ilekroć parametr populacji jest potrzebny, ale nieznany”. czy to podejście nie jest po prostu nazywane statystykami?

— user603

@ user603: Nie, nie. Istnieją inne alternatywne podejścia, a estymatory plu-in mogą być złe.

— kjetil b halvorsen