Czy korelacja lub współczynnik determinacji odnoszą się do odsetka wartości, które mieszczą się wzdłuż linii regresji?

12

Korelacja jest miarą liniowego powiązania między dwiema zmiennymi. Współczynnik determinacji, , jest miarą tego, jak dużą zmienność jednej zmiennej można „wyjaśnić” zmiennością drugiej. $r$ $r^2$

Na przykład, jeśli jest korelacją między dwiema zmiennymi, to . Stąd 64% zmienności w jednym z nich można wytłumaczyć różnicami w drugim. Dobrze? $r = 0.8$ $r^2 = 0.64$

Moje pytanie brzmi, czy w podanym przykładzie jedno z poniższych stwierdzeń jest poprawne?

64% wartości spada wzdłuż linii regresji
80% wartości spada wzdłuż linii regresji

regression correlation r-squared

— Bradex
źródło

Termin „upadek” jest nieprecyzyjny. Wydaje się, że przynajmniej niektóre odpowiedzi interpretują to jako „leżące dokładnie na”, a odpowiedź wyraźnie nie jest (chociaż ten pomysł może prowadzić do interesującej miary liniowego skojarzenia, która może być odpowiednia w kilku szczególnych sytuacjach - np. Tam, gdzie jest było mieszaniną braku szumu / błędu przez cały czas, a czasami jakiś błąd, jak w przypadku niektórych procesów zanieczyszczających - a następnie oszacowałbyś odsetek danych, które nie są zanieczyszczone). Jeśli miałeś na myśli coś innego niż „położyć się dokładnie”, musisz określić, co to znaczy.

— Glen_b

8

Pierwsza część tego jest w zasadzie poprawna - ale model wyjaśnia 64% wariancji. W prostej regresji liniowej: Y ~ X, jeśli wynosi 0,64, oznacza to, że 64% zmiany Y zależy od liniowej zależności między Y i X. Możliwe jest silne powiązanie z bardzo niskim , jeśli związek jest silnie nieliniowy. $R^2$ $R^2$

Żadne z dwóch ponumerowanych pytań nie jest poprawne. Rzeczywiście, możliwe jest, że żaden punkt nie będzie leżał dokładnie na linii regresji. Nie mierzy się tego. Raczej chodzi o to, jak blisko jest średni punkt do linii. Jeśli wszystkie lub prawie wszystkie punkty są blisko (nawet jeśli żaden nie jest dokładnie na linii), wówczas będzie wysoki. Jeśli większość punktów znajduje się daleko od linii, będzie niski. Jeśli większość punktów jest blisko, ale kilka jest daleko, regresja jest niepoprawna (problem wartości odstających). Inne rzeczy też mogą pójść nie tak. $R^2$ $R^2$

Ponadto pozostawiłem pojęcie „daleko” raczej niejasne. Będzie to zależeć od rozłożenia X-ów. Sprecyzowanie tych pojęć jest częścią tego, czego uczysz się na kursie regresji; Nie wchodzę tutaj.

— Peter Flom - Przywróć Monikę
źródło

Cóż, to wiele dla mnie wyjaśniło! Dziękuję Mimshot i Peter Flom! Jestem wam bardzo wdzięczny! :)

— Bradex,

1

+1, dobra odpowiedź, czy mógłbyś dodać coś w stylu „Rzeczywiście, [możliwe, że] żaden z punktów nie może kłamać ...”. Warto również omówić, że pojęcie odległości punktów od linii jest również zależne od tego, jak rozstawione są litery X.

— gung - Przywróć Monikę

15

Masz rację z pierwszą częścią swojego oświadczenia. Zwykłym sposobem interpretacji współczynnika determinacji jest odsetek zmian zmiennej zależnej ( ), który jesteśmy w stanie wyjaśnić zmiennymi objaśniającymi. Dokładną interpretację i wyprowadzenie współczynnika determinacji można znaleźć tutaj $R^{2}$ $y$ $Var(y)$ $R^{2}$

http://economictheoryblog.com/2014/11/05/the-coefficient-of-determination-latex-r2/

Jednak o wiele mniej znaną interpretacją współczynnika determinacji jest interpretacja go jako współczynnika korelacji Squared Pearsona między obserwowanymi wartościami a dopasowanymi wartościami . Dowód, że współczynnik determinacji jest równoważny kwadratowemu współczynnikowi korelacji Pearsona między obserwowanymi wartościami a dopasowanymi wartościami można znaleźć tutaj $R^{2}$ $y_{i}$ $\hat{y}_{i}$ $y_{i}$ $\hat{y}_{i}$

http://economictheoryblog.com/2014/11/05/proof/

Moim zdaniem są to jedyne znaczące sposoby interpretacji współczynnika determinacji . Wynika z tego, że dwa stwierdzenia, które podałeś, nie mogą pochodzić z . $R^{2}$ $R^{2}$

— Michał
źródło

2

Nie jestem pewien, czy istnieją tylko dwa sposoby interpretacji (z pewnością istnieją więcej niż dwa sposoby interpretacji ), ale wynika z tego, że dwóch podanych instrukcji nie można wyprowadzić z , ponieważ są one false (z powodów wyjaśnionych przez @PeterFlom), a nie możliwa żadna inna interpretacja. Ale sądzę, że inaczej jest to miła odpowiedź.

R^{2}

$R^2$

r

$r$

R^{2}

$R^2$

— Silverfish,

2

W przypadku, gdy podane linki znikną w pewnym momencie w przyszłości (linkrot jest wiecznym problemem - wolimy, aby odpowiedzi były samodzielne, jeśli to możliwe, ale oczywiście to pytanie nie wymaga pełnych dowodów, więc link jest celowy), mamy trochę zakres stosunków między i , o , o , o , a bardziej geometrycznie tutaj .

Corr (y, \hat{y})

$\operatorname{Corr}(y, \hat y)$

R^{2}

$R^2$

— Silverfish,

2

Niether 1 ani 2 są poprawne.

$\pmb{y}$ $\pmb{x}$

y_{i} = b + m x_{i} + ϵ_{i}

$y_i = b + mx_i + \epsilon_i$

$\epsilon_i \sim \mathcal{N(0,\sigma^2)}$ $R^2=.64$ $y$ $x$

{\hat{y}}_{i} = b + m x_{i}

$\hat{y}_i = b + mx_i$

Następnie

1 - 0.64 = 0.36 = \frac{v a r (y y - \hat{y} \hat{y})}{v a r (y y)}

$1-0.64 = 0.36 = \frac{\mathrm{var}(\pmb{y}-\pmb{\hat{y}})}{\mathrm{var}(\pmb{y})}$

— Mimshot
źródło