Dowód, że statystyka F jest zgodna z rozkładem F.

W świetle tego pytania: Dowód, że współczynniki w modelu OLS są zgodne z rozkładem t z (nk) stopniami swobody

Chciałbym zrozumieć, dlaczego

F = \frac{(TSS - RSS) / (p - 1)}{RSS / (n - p)},

$F = \frac{(\text{TSS}-\text{RSS})/(p-1)}{\text{RSS}/(n-p)},$

gdzie jest liczbą parametrów modelu, a liczbą obserwacji, a wariancja całkowita, wariancja resztkowa, jest zgodna z rozkładem . $p$ $n$ $TSS$ $RSS$ $F_{p-1,n-p}$

Muszę przyznać, że nawet nie próbowałem tego udowodnić, ponieważ nie wiedziałbym od czego zacząć.

— użytkownik1627466
źródło

Christoph Hanck i Francis już udzielili bardzo dobrej odpowiedzi. Jeśli nadal masz problemy ze zrozumieniem testu f dla regresji liniowej, spróbuj przejść do teamdable.github.io/techblog/… . Napisałem wpis na blogu o dowodzie potwierdzającym, że regresja liniowa jest najlepsza. Jest napisany w języku koreańskim, ale może nie stanowić problemu, ponieważ prawie wszystkie są formułami matematycznymi. Mam nadzieję, że pomogłoby to, gdybyś nadal miał trudności ze zrozumieniem dowodu testu f dla regresji liniowej.

— Taeho Oh

Chociaż ten link może odpowiedzieć na pytanie, lepiej jest dołączyć tutaj istotne części odpowiedzi i podać link w celach informacyjnych. Odpowiedzi zawierające tylko łącze mogą stać się nieprawidłowe, jeśli połączona strona ulegnie zmianie. - Z recenzji

— mkt - Przywróć Monikę

Odpowiedzi:

Pokażmy wynik dla ogólnego przypadku, w którym twoja formuła dla statystyki testowej jest przypadkiem szczególnym. Zasadniczo musimy zweryfikować, czy statystykę można, zgodnie z charakterystyką rozkładu $F$ , zapisać jako stosunek niezależnych rvs podzielonych przez ich stopnie swobody. $\chi^2$

Niech ze znanymi i , nielosowymi i ma pełny stopień kolumny . Reprezentuje to ograniczenia liniowe dla (w przeciwieństwie do notacji OP) regresorów, w tym składnik stały. Zatem w przykładzie @ user1627466 odpowiada ograniczeniom ustawiania wszystkich współczynników nachylenia na zero. $H_{0}:R^\prime\beta=r$ $R$ $r$ $R:k\times q$ $q$ $q$ $k$ $p-1$ $q=k-1$

W związku z , mamy , aby (z będący „pierwiastkiem macierzowym” , np. Przez Rozkład Choleskiego) as $Var\bigl(\hat{\beta}_{\text{ols}}\bigr)=\sigma^2(X'X)^{-1}$

\begin{array}{rcl} R^{'} ({\hat{β}}_{ols} - β) \sim N (0, σ^{2} R^{'} (X^{'} X)^{- 1} R), \end{array}

$\begin{eqnarray*} R^\prime(\hat{\beta}_{\text{ols}}-\beta)\sim N\left(0,\sigma^{2}R^\prime(X^\prime X)^{-1} R\right), \end{eqnarray*}$

B^{- 1 / 2} = {R^{'} (X^{'} X)^{- 1} R}^{- 1 / 2}

$B^{-1/2}=\{R^\prime(X^\prime X)^{-1} R\}^{-1/2}$

B^{- 1} = {R^{'} (X^{'} X)^{- 1} R}^{- 1}

$B^{-1}=\{R^\prime(X^\prime X)^{-1} R\}^{-1}$

\begin{array}{rcl} n := \frac{B^{- 1 / 2}}{σ} R^{'} ({\hat{β}}_{ols} - β) \sim N (0, I_{q}), \end{array}

$\begin{eqnarray*} n:=\frac{B^{-1/2}}{\sigma}R^\prime(\hat{\beta}_{\text{ols}}-\beta)\sim N(0,I_{q}), \end{eqnarray*}$

\begin{array}{rcl} V a r (n) & = & \frac{B^{- 1 / 2}}{σ} R^{'} V a r ({\hat{β}}_{ols}) R \frac{B^{- 1 / 2}}{σ} \\ = & \frac{B^{- 1 / 2}}{σ} σ^{2} B \frac{B^{- 1 / 2}}{σ} = I \end{array}

$\begin{eqnarray*} Var(n)&=&\frac{B^{-1/2}}{\sigma}R^\prime Var\bigl(\hat{\beta}_{\text{ols}}\bigr)R\frac{B^{-1/2}}{\sigma}\\ &=&\frac{B^{-1/2}}{\sigma}\sigma^2B\frac{B^{-1/2}}{\sigma}=I \end{eqnarray*}$ gdzie druga linia używa wariancji OLSE.

To, jak pokazano w odpowiedzi, do której linkujesz (patrz także tutaj ), jest niezależne od gdzie to zwykle szacunek wariancji błędu bezstronnego, przy jest«resztkowa matryca do przygotowywania»od regresji o .

d := (n - k) \frac{{\hat{σ}}^{2}}{σ^{2}} \sim χ_{n - k}^{2},

$d:=(n-k)\frac{\hat{\sigma}^{2}}{\sigma^{2}}\sim\chi^{2}_{n-k},$

{\hat{σ}}^{2} = y^{'} M_{X} y / (n - k)

$\hat{\sigma}^{2}=y'M_Xy/(n-k)$

M_{X} = I - X (X^{'} X)^{- 1} X^{'}

$M_{X}=I-X(X'X)^{-1}X'$

X

$X$

Tak więc, ponieważ jest formą kwadratową w normalnych, W szczególności, pod , zmniejsza się to do statystyki $n'n$

\begin{array}{rcl} \frac{\overset{\sim χ_{q}^{2}}{\overset{⏞}{n^{'} n}} / q}{d / (n - k)} = \frac{({\hat{β}}_{ols} - β)^{'} R {R^{'} (X^{'} X)^{- 1} R}^{- 1} R^{'} ({\hat{β}}_{ols} - β) / q}{{\hat{σ}}^{2}} \sim F_{q, n - k} . \end{array}

$\begin{eqnarray*} \frac{\overbrace{n^\prime n}^{\sim\chi^{2}_{q}}/q}{d/(n-k)}=\frac{(\hat{\beta}_{\text{ols}}-\beta)^\prime R\left\{R^\prime(X^\prime X)^{-1}R\right\}^{-1}R^\prime(\hat{\beta}_{\text{ols}}-\beta)/q}{\hat{\sigma}^{2}}\sim F_{q,n-k}. \end{eqnarray*}$

H_{0} : R^{'} β = r

$H_{0}:R^\prime\beta=r$

\begin{array}{rcl} F = \frac{(R^{'} {\hat{β}}_{ols} - r)^{'} {R^{'} (X^{'} X)^{- 1} R}^{- 1} (R^{'} {\hat{β}}_{ols} - r) / q}{{\hat{σ}}^{2}} \sim F_{q, n - k} . \end{array}

$\begin{eqnarray} F=\frac{(R^\prime\hat{\beta}_{\text{ols}}-r)^\prime\left\{R^\prime(X^\prime X)^{-1}R\right\}^{-1}(R^\prime\hat{\beta}_{\text{ols}}-r)/q}{\hat{\sigma}^{2}}\sim F_{q,n-k}. \end{eqnarray}$

Na przykład, rozważmy szczególnym przypadku , , , i . Następnie kwadratowy euklidesowy dystans OLS oszacuj na podstawie źródła znormalizowanego przez liczbę elementów - podkreślając, że ponieważ są kwadratowymi standardowymi normami, a zatem , rozkład może być widoczny jako „średni . $R^\prime=I$ $r=0$ $q=2$ $\hat{\sigma}^{2}=1$ $X^\prime X=I$

\begin{array}{rcl} F = {\hat{β}}_{ols}^{'} {\hat{β}}_{ols} / 2 = \frac{{\hat{β}}_{ols, 1}^{2} + {\hat{β}}_{ols, 2}^{2}}{2}, \end{array}

$\begin{eqnarray} F=\hat{\beta}_{\text{ols}}^\prime\hat{\beta}_{\text{ols}}/2=\frac{\hat{\beta}_{\text{ols},1}^2+\hat{\beta}_{\text{ols},2}^2}{2}, \end{eqnarray}$

{\hat{β}}_{ols, 2}^{2}

$\hat{\beta}_{\text{ols},2}^2$

χ_{1}^{2}

$\chi^2_1$

F

$F$

χ^{2}

$\chi^2$

W przypadku, gdy wolisz małą symulację (która oczywiście nie jest dowodem!), W której testowane jest zero, że żaden z regresorów znaczenia - co tak naprawdę nie ma, więc symulujemy rozkład zerowy. $k$

Widzimy bardzo dobrą zgodność między gęstością teoretyczną a histogramem statystyki testu Monte Carlo.

library(lmtest)
n <- 100
reps <- 20000
sloperegs <- 5 # number of slope regressors, q or k-1 (minus the constant) in the above notation
critical.value <- qf(p = .95, df1 = sloperegs, df2 = n-sloperegs-1) 
# for the null that none of the slope regrssors matter

Fstat <- rep(NA,reps)
for (i in 1:reps){
  y <- rnorm(n)
  X <- matrix(rnorm(n*sloperegs), ncol=sloperegs)
  reg <- lm(y~X)
  Fstat[i] <- waldtest(reg, test="F")$F[2] 
}

mean(Fstat>critical.value) # very close to 0.05

hist(Fstat, breaks = 60, col="lightblue", freq = F, xlim=c(0,4))
x <- seq(0,6,by=.1)
lines(x, df(x, df1 = sloperegs, df2 = n-sloperegs-1), lwd=2, col="purple")

Aby zobaczyć, że wersje statystyk testowych w pytanie i odpowiedź są rzeczywiście równoważne pamiętać, że odpowiada null ograniczeń i . $R'=[0\;\;I]$ $r=0$

Niech należy podzielić na partycje, według których współczynniki są ograniczone do zera poniżej zera (w twoim przypadku wszystkie oprócz stałej, ale pochodna, którą należy zastosować, jest ogólna). Niech też jest odpowiednio podzielonym oszacowaniem OLS. $X=[X_1\;\;X_2]$ $\hat{\beta}_{\text{ols}}=(\hat{\beta}_{\text{ols},1}^\prime,\hat{\beta}_{\text{ols},2}')'$

Następnie i prawy dolny blok Teraz użyj wyników dla partycjonowanych odwrotności, aby uzyskać gdzie .

R^{'} {\hat{β}}_{ols} = {\hat{β}}_{ols, 2}

$R'\hat{\beta}_{\text{ols}}=\hat{\beta}_{\text{ols},2}$

R^{'} (X^{'} X)^{- 1} R \equiv \tilde{D},

$R^\prime(X^\prime X)^{-1}R\equiv\tilde D,$

\begin{aligned} (X^{T} X)^{- 1} & = {(\begin{array}{cc} X_{1}^{'} X_{1} & X_{1}^{'} X_{2} \\ X_{2}^{'} X_{1} & X_{2}^{'} X_{2} \end{array})}^{- 1} \\ \equiv (\begin{array}{cc} \tilde{A} & \tilde{B} \\ \tilde{C} & \tilde{D} \end{array}) \end{aligned}

$\begin{align*} (X^TX)^{-1}&=\left( \begin{array} {c,c} X_1'X_1&X_1'X_2 \\ X_2'X_1&X_2'X_2\end{array} \right)^{-1}\\&\equiv\left( \begin{array} {c,c} \tilde A&\tilde B \\ \tilde C&\tilde D\end{array} \right) \end{align*}$

\tilde{D} = (X_{2}^{'} X_{2} - X_{2}^{'} X_{1} (X_{1}^{'} X_{1})^{- 1} X_{1}^{'} X_{2})^{- 1} = (X_{2}^{'} M_{X_{1}} X_{2})^{- 1}

$\tilde D=(X_2'X_2-X_2'X_1(X_1'X_1)^{-1}X_1'X_2)^{-1}=(X_2'M_{X_1}X_2)^{-1}$

M_{X_{1}} = I - X_{1} (X_{1}^{'} X_{1})^{- 1} X_{1}^{'}

$M_{X_1}=I-X_1(X_1'X_1)^{-1}X_1'$

Tak więc licznik statystyki staje się (bez dzielenia przez ) Następnie przypomnijmy, że według twierdzenia Frisch-Waugh-Lovell możemy napisać , aby $F$ $q$

F_{n u m} = {\hat{β}}_{ols, 2}^{'} (X_{2}^{'} M_{X_{1}} X_{2}) {\hat{β}}_{ols, 2}

$F_{num}=\hat{\beta}_{\text{ols},2}'(X_2'M_{X_1}X_2)\hat{\beta}_{\text{ols},2}$

{\hat{β}}_{ols, 2} = (X_{2}^{'} M_{X_{1}} X_{2})^{- 1} X_{2}^{'} M_{X_{1}} y

$\hat{\beta}_{\text{ols},2}=(X_2'M_{X_1}X_2)^{-1}X_2'M_{X_1}y$

\begin{aligned} F_{n u m} & = y^{'} M_{X_{1}} X_{2} (X_{2}^{'} M_{X_{1}} X_{2})^{- 1} (X_{2}^{'} M_{X_{1}} X_{2}) (X_{2}^{'} M_{X_{1}} X_{2})^{- 1} X_{2}^{'} M_{X_{1}} y \\ = y^{'} M_{X_{1}} X_{2} (X_{2}^{'} M_{X_{1}} X_{2})^{- 1} X_{2}^{'} M_{X_{1}} y \end{aligned}

$\begin{align*} F_{num}&=y'M_{X_1}X_2(X_2'M_{X_1}X_2)^{-1}(X_2'M_{X_1}X_2)(X_2'M_{X_1}X_2)^{-1}X_2'M_{X_1}y\\ &=y'M_{X_1}X_2(X_2'M_{X_1}X_2)^{-1}X_2'M_{X_1}y \end{align*}$

Pozostaje pokazać, że ten licznik jest identyczny z , różnicą w nieograniczonej i ograniczonej sumie kwadratów reszt. $\text{USSR}-\text{RSSR}$

Tutaj jest resztkową sumą kwadratów po regresji na , tj. Z nałożonym . W twoim szczególnym przypadku jest to po prostu , reszty regresji na stałej.

RSSR = y^{'} M_{X_{1}} y

$\text{RSSR}=y'M_{X_1}y$

y

$y$

X_{1}

$X_1$

H_{0}

$H_0$

T S S = \sum_{i} (y_{i} - \bar{y})^{2}

$TSS=\sum_i(y_i-\bar y)^2$

Ponownie używając FWL (który pokazuje również, że reszty z dwóch podejść są identyczne), możemy zapisać (SSR w Twojej notacji) jako SSR regresji $\text{USSR}$

M_{X_{1}} y on M_{X_{1}} X_{2}

$M_{X_1}y\quad\text{on}\quad M_{X_1}X_2$

To znaczy,

\begin{array}{rcl} USSR & = & y^{'} M_{X_{1}}^{'} M_{M_{X_{1}} X_{2}} M_{X_{1}} y \\ = & y^{'} M_{X_{1}}^{'} (I - P_{M_{X_{1}} X_{2}}) M_{X_{1}} y \\ = & y^{'} M_{X_{1}} y - y^{'} M_{X_{1}} M_{X_{1}} X_{2} ((M_{X_{1}} X_{2})^{'} M_{X_{1}} X_{2})^{- 1} (M_{X_{1}} X_{2})^{'} M_{X_{1}} y \\ = & y^{'} M_{X_{1}} y - y^{'} M_{X_{1}} X_{2} (X_{2}^{'} M_{X_{1}} X_{2})^{- 1} X_{2}^{'} M_{X_{1}} y \end{array}

$\begin{eqnarray*} \text{USSR}&=&y'M_{X_1}'M_{M_{X_1}X_2}M_{X_1}y\\ &=&y'M_{X_1}'(I-P_{M_{X_1}X_2})M_{X_1}y\\ &=&y'M_{X_1}y-y'M_{X_1}M_{X_1}X_2((M_{X_1}X_2)'M_{X_1}X_2)^{-1}(M_{X_1}X_2)'M_{X_1}y\\ &=&y'M_{X_1}y-y'M_{X_1}X_2(X_2'M_{X_1}X_2)^{-1}X_2'M_{X_1}y \end{eqnarray*}$

A zatem,

\begin{array}{rcl} RSSR - USSR & = & y^{'} M_{X_{1}} y - (y^{'} M_{X_{1}} y - y^{'} M_{X_{1}} X_{2} (X_{2}^{'} M_{X_{1}} X_{2})^{- 1} X_{2}^{'} M_{X_{1}} y) \\ = & y^{'} M_{X_{1}} X_{2} (X_{2}^{'} M_{X_{1}} X_{2})^{- 1} X_{2}^{'} M_{X_{1}} y \end{array}

$\begin{eqnarray*} \text{RSSR}-\text{USSR}&=&y'M_{X_1}y-(y'M_{X_1}y-y'M_{X_1}X_2(X_2'M_{X_1}X_2)^{-1}X_2'M_{X_1}y)\\ &=&y'M_{X_1}X_2(X_2'M_{X_1}X_2)^{-1}X_2'M_{X_1}y \end{eqnarray*}$

— Christoph Hanck
źródło

Dzięki. Nie wiem, czy uważa się to za trzymanie ręki w tym momencie, ale jak przejść od sumy kwadratów bety do wyrażenia zawierającego sumę kwadratów?

— user1627466

@ user1627466, dodałem pochodną równoważności dwóch formuł.

— Christoph Hanck

@ChristophHanck udzielił bardzo wyczerpującej odpowiedzi, tutaj dodam szkic dowodu na temat wspomnianego specjalnego przypadku OP. Mamy nadzieję, że dla początkujących jest to łatwiejsze.

Zmienna losowa jeśli gdzie i są niezależne. Zatem, aby pokazać, że statystyka ma rozkład , możemy równie dobrze pokazać, że i dla jakiegoś stałego i że są one niezależne. $Y\sim F_{d_1,d_2}$

Y = \frac{X_{1} / d_{1}}{X_{2} / d_{2}},

$Y=\frac{X_1/d_1}{X_2/d_2},$

X_{1} \sim χ_{d_{1}}^{2}

$X_1\sim\chi^2_{d_1}$

X_{2} \sim χ_{d_{2}}^{2}

$X_2\sim\chi^2_{d_2}$

F

$F$

F

$F$

c ESS \sim χ_{p - 1}^{2}

$c\text{ESS}\sim\chi^2_{p-1}$

c RSS \sim χ_{n - p}^{2}

$c\text{RSS}\sim\chi^2_{n-p}$

c

$c$

W modelu OLS piszemy gdzie jest macierzą , a idealnie . Dla wygody wprowadzamy macierz kapelusza (uwaga ), a twórca resztkowy . Ważnymi właściwościami i jest to, że są one zarówno symetryczne, jak i idempotentne. Ponadto mamy oraz , przydadzą się one później.

y = X β + ε,

$y=X\beta+\varepsilon,$

X

$X$

n \times p

$n\times p$

ε \sim N_{n} (0, σ^{2} I)

$\varepsilon\sim N_n(\mathbf{0}, \sigma^2I)$

H = X (X^{T} X)^{- 1} X^{T}

$H=X(X^TX)^{-1}X^{T}$

\hat{y} = H y

$\hat{y}=Hy$

M = I - H

$M=I-H$

H

$H$

M

$M$

tr (H) = p

$\operatorname{tr}(H)=p$

H X = X

$HX=X$

Oznaczmy macierz wszystkich jako , sumę kwadratów można następnie wyrazić za pomocą form kwadratowych:Należy zauważyć, że . Można sprawdzić, czy jest idempotentny i nazwa nazwa nazwa . Wynika z tego, że jest również idempotentny, a . $J$

TSS = y^{T} (I - \frac{1}{n} J) y, RSS = y^{T} M y, ESS = y^{T} (H - \frac{1}{n} J) y .

$\text{TSS}=y^T\left(I-\frac{1}{n}J\right)y,\quad\text{RSS}=y^TMy,\quad\text{ESS}=y^T\left(H-\frac{1}{n}J\right)y.$

M + (H - J / n) + J / n = I

$M+(H-J/n)+J/n=I$

J / n

$J/n$

rank (M) + rank (H - J / n) + rank (J / n) = n

$\operatorname{rank}(M)+\operatorname{rank}(H-J/n)+\operatorname{rank}(J/n)=n$

H - J / n

$H-J/n$

M (H - J / n) = 0

$M(H-J/n)=0$

Możemy teraz zacząć pokazywać, że statystyka ma rozkład (przeszukaj twierdzenie Cochrana więcej). Potrzebujemy dwóch faktów: $F$ $F$

Niech . Załóżmy, że jest symetryczny z rangą a jest idempotentny, a następnie , tj. z df i niecentralnością . Jest to szczególny przypadek wyniku Baldessari , dowód można znaleźć również tutaj . $x\sim N_n(\mu,\Sigma)$ $A$ $r$ $A\Sigma$ $x^TAx\sim\chi^2_r(\mu^TA\mu/2)$ $\chi^2$ $r$ $\mu^TA\mu/2$
Niech . Jeśli , to i są niezależne. Jest to znane jako twierdzenie Craiga . $x\sim N_n(\mu,\Sigma)$ $A\Sigma B=0$ $x^TAx$ $x^TBx$

Od mamyJednak pod hipotezą zerową , więc naprawdę . Z drugiej strony należy zauważyć, że od . Dlatego . Ponieważ , i są również niezależne. Zaraz potem następuje $y\sim N_n(X\beta,\sigma^2I)$

\frac{ES}{σ^{2)}} = {(\frac{y}{σ})}^{T.} (H. - \frac{1}{n} jot) \frac{y}{σ} \sim χ_{p - 1}^{2)} ((X β)^{T.} (H. - \frac{jot}{n}) X β) .

$\frac{\text{ESS}}{\sigma^2}=\left(\frac{y}{\sigma}\right)^T\left(H-\frac{1}{n}J\right)\frac{y}{\sigma}\sim\chi^2_{p-1}\left((X\beta)^T\left(H-\frac{J}{n}\right)X\beta\right).$

β = 0

$\beta=\mathbf{0}$

ESS / σ^{2} \sim χ_{p - 1}^{2}

$\text{ESS}/\sigma^2\sim\chi^2_{p-1}$

y^{T} M y = ε^{T} M ε

$y^TMy=\varepsilon^TM\varepsilon$

H X = X

$HX=X$

RSS / σ^{2} \sim χ_{n - p}^{2}

$\text{RSS}/\sigma^2\sim\chi^2_{n-p}$

M (H - J / n) = 0

$M(H-J/n)=0$

ESS / σ^{2}

$\text{ESS}/\sigma^2$

RSS / σ^{2}

$\text{RSS}/\sigma^2$

fa = \frac{(TSS - RSS) / (p - 1)}{RSS / (n - p)} = \frac{\frac{ES}{σ^{2)}} / (p - 1)}{\frac{RSS}{σ^{2)}} / (n - p)} \sim {fa}_{p - 1, n - p} .

$F = \frac{(\text{TSS}-\text{RSS})/(p-1)}{\text{RSS}/(n-p)}=\frac{\dfrac{\text{ESS}}{\sigma^2}/(p-1)}{\dfrac{\text{RSS}}{\sigma^2}/(n-p)}\sim F_{p-1,n-p}.$

— Francis
źródło