Co faktycznie oblicza wzór y ~ x + 0 w R?

Jaka jest różnica statystyczna między regresją liniową w R z formulaustawieniem na y ~ x + 0zamiast y ~ x? Jak interpretować te dwa różne wyniki?

multiple-regression generalized-linear-model intercept

— JimBoy
źródło

Odpowiedzi:

Dodanie +0(lub -1) do formuły modelu (np. In lm()) w R tłumi przecięcie. Jest to ogólnie uważane za złe; widzieć:

Oszacowane nachylenie jest obliczane różnie w zależności od tego, czy oszacowany jest również punkt przecięcia, a mianowicie:

\begin{aligned} (with intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i} - \frac{(\sum x_{i}) (\sum y_{i})}{N}}{\sum x_{i}^{2} - \frac{(\sum x_{i})^{2}}{N}} \\ (without intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i}}{\sum x_{i}^{2}} \end{aligned}

$\begin{align} \hat\beta_1 &= \frac{\sum x_iy_i - \frac{\big(\sum x_i\big)\big(\sum y_i\big)}{N}}{\sum x_i^2 - \frac{\big(\sum x_i\big)^2}{N}} \tag{with intercept} \\[15pt] \hat\beta_1 &= \frac{\sum x_iy_i}{\sum x_i^2} \tag{without intercept} \end{align}$

Ponieważ ilość do odjęcia („subtrahend”) zarówno w liczniku, jak i mianowniku niekoniecznie wynosi , oszacowanie nachylenia jest tendencyjne, gdy punkt przecięcia jest tłumiony. $0$

Wartość jest także obliczana inaczej; widzieć: $R^2$

Oto podstawowe formuły:

\begin{aligned} (with intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum (y_{i} - \bar{y})^{2}} \\ (without intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum y_{i}^{2}} \end{aligned}

$\begin{align} R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum (y_i - \bar y)^2} \tag{with intercept} \\[15pt] R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum y_i^2} \tag{without intercept} \end{align}$

— gung - Przywróć Monikę
źródło

Dziękuję, gung! Jeśli stłumię przechwytywanie, moja wielokrotność kwadratu R poprawi się nagle. Czy możesz mi pomóc tutaj?

— JimBoy,

Nie ma uzgodnionego sposobu obliczania r do kwadratu bez przecięcia. Kwadrat r nie ma swojej zwykłej interpretacji. Robienie regresji bez przechwytywania jest prawie zawsze BARDZO złym pomysłem

— Repmat

@Repmat: patrz także stats.stackexchange.com/questions/171240/…

@JimBoy: patrz stats.stackexchange.com/questions/171240/…

Zależy to od kontekstu (oczywiście), w lm(...)poleceniu w R tłumi przechwytywanie. Oznacza to, że regresujesz mimo pochodzenia.

Zauważ, że większość podręczników na temat regresji powie ci, że wymuszanie przechwytywania (do dowolnej wartości) jest złym pomysłem.

Interpretacja x nie zmienia się, ale wartość (w porównaniu z i bez przecięcia) zmieni się, czasem bardzo znacząco.

— Repmat
źródło

Dziękuję, Repmat! Otrzymuję bardzo różne oszacowania, jeśli pomijam przechwytywanie w porównaniu do tego, kiedy nie. Ponadto wszystkie testy t stają się bardzo znaczące. Czy wiesz dlaczego tak jest?

— JimBoy

Punkt przecięcia pochłonie wszelkie zmienne inne niż 0, które nie są zawarte w modelu. Po zniknięciu przechwytywania wariancja musi gdzieś pójść. Dlatego większość książek z reguły stwierdza, że regresja bez przechwytywania jest zawsze błędna. Oznacza to, że OLS jest zawsze stronniczy i spójny w tym przypadku (z kilkoma wyjątkami).

— Repmat,