Przydatność twierdzenia Frisch-Waugh

Mam uczyć twierdzenia Frisha Waugha w ekonometrii, której nie studiowałem.

Zrozumiałem matematykę, która się za tym kryje, i mam nadzieję, że pomysł „współczynnik, który otrzymujesz dla określonego współczynnika z wielokrotnego modelu liniowego, jest równy współczynnikowi prostego modelu regresji, jeśli„ wyeliminujesz ”wpływ innych regresorów”. Więc teoretyczny pomysł jest całkiem fajny. (Jeśli całkowicie źle zrozumiałem, z zadowoleniem przyjmuję korektę)

Ale czy ma jakieś klasyczne / praktyczne zastosowania?

EDYCJA : Zaakceptowałem odpowiedź, ale nadal chcę mieć nowe, które przynoszą inne przykłady / aplikacje.

— Anthony Martin
źródło

Oczywistym byłoby dodanie zmiennych wykresów ?

— Silverfish,

Wstęp Dougherty'ego do ekonometrii wymienia inny przykład zastosowania twierdzenia Frisch-Waugh-Lovell. We wczesnych dniach ekonometrycznej analizy szeregów czasowych dość często zdarzały się modele, w których zmienne miały deterministyczne trendy czasowe, aby je wszystkie zniechęcić przed regresją. Ale dzięki FWL uzyskuje się te same współczynniki po prostu poprzez uwzględnienie trendu czasowego jako regresora, a ponadto daje to „prawidłowe” standardowe błędy, ponieważ potwierdza to, że 1 df został w ten sposób zużyty.

— Silverfish,

Dougherty ostrzega przed tą procedurą, więc pod tym względem nie jest to świetny przykład, choć pouczający. Zmienne ekonomiczne często wydają się raczej stacjonarne od różnic niż stacjonarne od trendów, więc tego rodzaju próba rezygnacji nie działa i może skutkować fałszywymi regresjami.

— Silverfish,

@Silverfish: FWL jest techniką czysto algebraiczną, więc kwestia, czy wyodrębnienie deterministycznego trendu jest „właściwa”, biorąc pod uwagę leżącą u podstaw MZD, jest bez wątpienia ważna, ale nie jest powiązana z FWL, więc w tym sensie twój przykład jest całkowicie poprawny dla OP kwestionuje dwa sposoby uzyskiwania oszacowań punktowych.

— Christoph Hanck

Wykorzystałem ten związek w wielu postach, przede wszystkim w celach koncepcyjnych i w celu dostarczenia interesujących przykładów zjawisk regresji. Patrz, między innymi , stats.stackexchange.com/a/46508 , stats.stackexchange.com/a/113207 i stats.stackexchange.com/a/71257 .

— whuber

Odpowiedzi:

Rozważ model danych panelu ze stałymi efektami, znany również jako model zmiennych zmiennych najmniejszych kwadratów (LSDV).

można obliczyć przez bezpośrednie zastosowanie OLS do modelu gdziejestmacierząmanekinów, areprezentuje ustalone efekty specyficzne dla poszczególnych osób. $b_{LSDV}$

y = X β + D α + ϵ,

$y=X\beta+D\alpha+\epsilon,$

D

$D$

N T \times N

$NT\times N$

α

$\alpha$

Innym sposobem obliczenia jest zastosowanie tzw. Transformacji wewnątrz do zwykłego modelu w celu uzyskania poniższej wersji, tj. Tutaj resztkowe matrycy Twórcy regresji na . $b_{LSDV}$

M_{[D]} y = M_{[D]} X β + M_{[D]} ϵ .

$M_{[D]}y=M_{[D]}X\beta+M_{[D]}\epsilon.$

M_{[D]} = I - D (D^{'} D)^{- 1} D^{'}

$M_{[D]}=I-D(D'D)^{-1}D'$

D

$D$

Według twierdzenia Frisch-Waugh-Lovell oba są równoważne, ponieważ FWL mówi, że można obliczyć podzbiór współczynników regresji regresji (tutaj ) przez $\hat\beta$

regresując na innych regresorach (tutaj, ), zapisując resztki (tutaj, czasowe lub , ponieważ regresja na stałej tylko określa zmienne), to $y$ $D$ $y$ $M_{[D]}y$
cofnięcie na i zapisanie resztek , i $X$ $D$ $M_{[D]}X$
cofa się z pozostałości na siebie, o . $M_{[D]}y$ $M_{[D]}X$

Druga wersja jest znacznie szerzej stosowana, ponieważ typowe zestawy danych panelu mogą mieć tysiące jednostek panelu , tak więc pierwsze podejście wymagałoby przeprowadzenia regresji z tysiącami regresorów, co nie jest dobrym pomysłem liczbowym nawet w dzisiejszych czasach z szybkim komputery, ponieważ obliczenie odwrotności byłoby bardzo drogie, podczas gdy poniżające w czasie i są mało kosztowne. $N$ $(D :X)'(D: X)$ $y$ $X$

— Christoph Hanck
źródło

Dziękuję bardzo, to jest odpowiedź, której szukałem, mimo że jej użycie jest nieco zaawansowane. Więc twoja odpowiedź jest dla mnie w porządku, ale byłbym szczęśliwy, gdybym miał inne, czy mam przyjąć twoją?

— Anthony Martin

Jeśli to pomogłoby, byłoby to właściwe. Ale zaakceptowanie zmniejszy twoje szanse na uzyskanie lepszych odpowiedzi, więc możesz rozważyć poczekanie przed zaakceptowaniem tego. Nagroda dodatkowo zwiększy Twoje szanse na uzyskanie większej liczby odpowiedzi - biorąc pod uwagę, że w CV nie ma wystarczającej liczby użytkowników, którzy regularnie odpowiadają na pytania, biorąc pod uwagę liczbę pytań, nawet jedna odpowiedź może doprowadzić innych aktywnych użytkowników do wniosku, że pytania zostały rozwiązane. (Ja zamieściłem nieco prostszą odpowiedź poniżej.)

— Christoph Hanck

Oto uproszczona wersja mojej pierwszej odpowiedzi, która moim zdaniem jest mniej praktyczna, ale być może łatwiejsza do „sprzedaży” do użytku w klasie.

y_{i} = β_{1} + \sum_{j = 2}^{K} β_{j} x_{i j} + ϵ_{i}

$y_i = \beta_1 + \sum_{j=2}^K\beta_jx_{ij} + \epsilon_i$

y_{i} - \bar{y} = \sum_{j = 2}^{K} β_{j} (x_{i j} - {\bar{x}}_{j}) + {\tilde{ϵ}}_{i}

$y_i-\bar{y} = \sum^K_{j=2}\beta_j(x_{ij} - \bar{x}_j) + \tilde{\epsilon}_i$

{\hat{β}}_{j}

$\widehat{\beta}_j$

j = 2, \dots, K

$j=2,\ldots,K$

x_{1} = 1 := (1, \dots, 1)^{'}

$\mathbf{x}_1=\mathbf{1}:=(1,\ldots,1)'$

M_{1} = I - 1 (1^{'} 1)^{- 1} 1^{'} = I - \frac{1 1^{'}}{n},

$M_\mathbf{1}=I-\mathbf{1}(\mathbf{1}'\mathbf{1})^{-1}\mathbf{1}'=I-\frac{\mathbf{1}\mathbf{1}'}{n},$

M_{1} x_{j} = x_{j} - 1 n^{- 1} 1^{'} x_{j} = x_{j} - 1 {\bar{x}}_{j} =: x_{j} - {\bar{x}}_{j} .

$M_{\mathbf{1}}\mathbf{x}_j=\mathbf{x}_j-\mathbf{1} n^{-1}\mathbf{1}'\mathbf{x}_j=\mathbf{x}_j-\mathbf{1}\bar{x}_j=:\mathbf{x}_j-\bar{\mathbf{x}}_j.$

M_{1} x_{j}

$M_{\mathbf{1}}\mathbf{x}_j$

y_{i}

$y_i$

— Christoph Hanck
źródło

Oto inny, bardziej pośredni, ale uważam, że interesujący, mianowicie związek między różnymi podejściami do obliczania częściowego współczynnika autokorelacji stacjonarnych szeregów czasowych.

Definicja 1

{\hat{Y}}_{t} - μ = α_{1}^{(m)} (Y_{t - 1} - μ) + α_{2}^{(m)} (Y_{t - 2} - μ) + \dots + α_{m}^{(m)} (Y_{t - m} - μ)

$\begin{equation} \hat{Y}_{t}-\mu=\alpha^{(m)}_1(Y_{t-1}-\mu)+\alpha^{(m)}_2(Y_{t-2}-\mu)+\ldots+\alpha^{(m)}_m(Y_{t-m}-\mu) \end{equation}$

m

$m$

α_{m}^{(m)}

$\alpha^{(m)}_m$

$m$ $Y_t$ $Y_{t-1},\ldots,Y_{t-m+1}$ $\rho_m$ $Y_t$ $Y_{t-m}$

$\alpha^{(m)}_j$ $Z_t$ $X_t$

E [X_{t} (Z_{t} - X_{t}^{⊤} α^{(m)})] = 0

$\begin{equation} E[X_t(Z_t-X_t^\top\mathbf{\alpha}^{(m)})]=0 \end{equation}$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

α^{(m)} = [E (X_{t} X_{t}^{⊤})]^{- 1} E [X_{t} Z_{t}]

$\begin{equation} \mathbf{\alpha}^{(m)}=[E(X_tX_t^\top)]^{-1}E[X_tZ_t] \end{equation}$

Z_{t} = Y_{t} - μ

$Z_t=Y_t-\mu$

X_{t} = [(Y_{t - 1} - μ), (Y_{t - 2} - μ), \dots, (Y_{t - m} - μ)]^{⊤}

$X_t=[(Y_{t-1}-\mu),(Y_{t-2}-\mu),\ldots,(Y_{t-m}-\mu)]^\top$

E (X_{t} X_{t}^{⊤}) = (\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})

$E(X_tX_t^\top)=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)$

E (X_{t} Z_{t}) = (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$E(X_tZ_t)=\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)$

α^{(m)} = {(\begin{array}{cccc} γ_{0} & γ_{1} & \dots & γ_{m - 1} \\ γ_{1} & γ_{0} & \dots & γ_{m - 2} \\ ⋮ & ⋮ & ⋱ & ⋮ \\ γ_{m - 1} & γ_{m - 2} & \dots & γ_{0} \end{array})}^{- 1} (\begin{matrix} γ_{1} \\ ⋮ \\ γ_{m} \end{matrix})

$\begin{equation} \mathbf{\alpha}^{(m)}=\left(\begin{array}{cccc} \gamma_{0} & \gamma_{1}&\cdots& \gamma_{m-1}\\ \gamma_{1}& \gamma_{0} & \cdots &\gamma_{m-2}\\ \vdots & \vdots & \ddots &\vdots\\ \gamma_{m-1}&\gamma_{m-2} & \cdots & \gamma_{0}\\ \end{array} \right)^{-1}\left( \begin{array}{c} \gamma_1 \\ \vdots \\ \gamma_m \\ \end{array} \right)\end{equation}$

m

$m$

α^{(m)}

$\mathbf{\alpha}^{(m)}$

Tak więc prowadzimy regresję wielokrotną i znajdujemy jeden współczynnik zainteresowania, kontrolując pozostałe.

Definicja 2

$m$ $Y_{t+m}$ $Y_{t-1},\ldots,Y_{t-m+1}$ $Y_{t}$ $Y_{t-1},\ldots,Y_{t-m+1}$

Tak więc najpierw przeprowadzamy kontrolę opóźnień pośrednich, a następnie obliczamy korelację reszt.

— Christoph Hanck
źródło