Dlaczego nie możemy użyć

Wyobraź sobie, że mamy model regresji liniowej ze zmienną zależną $y$. Znajdziemy to$R^2_y$. Teraz wykonujemy kolejną regresję, ale tym razem$\log(y)$i podobnie znajdź $R^2_{\log(y)}$. Powiedziano mi, że nie mogę porównać obu$R^2$aby zobaczyć, który model jest bardziej odpowiedni. Dlaczego? Podany mi powód był taki, że będziemy porównywać zmienność różnych wielkości (różnych zmiennych zależnych). Nie jestem pewien, czy powinien to być wystarczający powód.

Czy jest też sposób na sformalizowanie tego?

Każda pomoc będzie mile widziana.

To dobre pytanie, ponieważ „różne ilości” nie wydają się dobrym wytłumaczeniem.

Istnieją dwa ważne powody, aby zachować ostrożność podczas używania $R^2$aby porównać te modele: jest zbyt surowe (tak naprawdę nie ocenia dobroci dopasowania ) i będzie nieodpowiednie dla co najmniej jednego z modeli. Ta odpowiedź rozwiązuje ten drugi problem.

Traktowanie teoretyczne

$R^2$porównuje wariancję reszt modelu z wariancją odpowiedzi. Wariancja to średnie kwadratowe odchylenie addytywne od dopasowania. Jako takie możemy zrozumieć$R^2$ jako porównanie dwóch modeli odpowiedzi $y$.

Model „bazowy” to

gdzie $\mu$ jest parametrem (teoretyczna średnia odpowiedź) i $\delta_i$ są niezależnymi losowymi „błędami”, z których każdy ma zerową średnią i wspólną wariancję $\tau^2$.

Model regresji liniowej wprowadza wektory$x_i$ jako zmienne objaśniające:

Numer $\beta_0$ i wektor $\beta$są parametrami (punkt przecięcia i „nachylenie”). The$\varepsilon_i$ ponownie są to niezależne losowe błędy, każdy o zerowej średniej i wspólnej wariancji $\sigma^2$.

$R^2$ szacuje zmniejszenie wariancji, $\tau^2-\sigma^2$, w porównaniu do pierwotnej wariancji $\tau^2$.

Kiedy bierzesz logarytmy i używasz najmniejszych kwadratów, aby dopasować model , domyślnie porównujesz relację formy

do jednego z formularzy

Są jak modele $(1)$ i $(2)$ale z odpowiedziami dziennika. Nie są one jednak równoważne z pierwszymi dwoma modelami. Na przykład potęgowanie obu stron$(2\text{a})$ dałbym

Warunki błędu $\exp(\eta_i)$teraz pomnóż podstawową relację$y_i = \exp(\gamma_0 + x_i\gamma)$. W konsekwencji występują wariancje odpowiedzi

Rozbieżności zależą od $x_i$. To nie jest model$(2)$, który zakłada, że ​​wszystkie wariancje są równe stałej $\sigma^2$.

Zwykle tylko jeden z tych zestawów modeli może być rozsądnym opisem danych. Stosowanie drugiego zestawu$(1\text{a})$ i $(2\text{a})$ kiedy pierwszy zestaw $(1)$ i $(2)$jest dobrym modelem, lub pierwszy, gdy drugi jest dobry, sprowadza się do pracy z nieliniowym, heteroscedastycznym zestawem danych, który dlatego powinien być źle dopasowany do regresji liniowej. Gdy zachodzi którakolwiek z tych sytuacji, możemy oczekiwać, że lepszy model pokaże większy$R^2$. A jeśli tak nie jest? Czy nadal możemy oczekiwać większego$R^2$ aby pomóc nam zidentyfikować lepszy model?

Analiza

W pewnym sensie nie jest to dobre pytanie, ponieważ jeśli żaden model nie jest odpowiedni, powinniśmy znaleźć trzeci model. Jednak kwestia przed nami dotyczy użyteczności$R^2$pomagając nam w podjęciu tej determinacji. Co więcej, wiele osób myśli najpierw o kształcie relacji między nimi$x$ i $y$- czy jest liniowy, logarytmiczny, czy jest czymś innym - bez obawy o charakterystykę błędów regresji $\varepsilon_i$ lub $\eta_i$. Rozważmy zatem sytuację, w której nasz model poprawia związek, ale myli się co do jego struktury błędów lub odwrotnie .

Taki model (który często występuje) jest najmniejszym kwadratem dopasowanym do relacji wykładniczej,

Teraz logarytm z $y$jest funkcją liniową$x$, jak w $(2\text{a})$, ale warunki błędu$\theta_i$są addytywne , jak w$(2)$. W takich sprawach$R^2$ może nas wprowadzić w błąd przy wyborze modelu z niewłaściwym stosunkiem między $x$ i $y$.

Oto ilustracja modelu $(3)$. Tam są$300$ obserwacje dla $x_i$ (1 wektor równo rozdzielony między $1.0$ i $1.6$). Lewy panel pokazuje oryginał$(x,y)$ dane, podczas gdy prawy panel pokazuje $(x,\log(y))$przekształcone dane. Przerywane czerwone linie pokazują prawdziwą zależność, podczas gdy ciągłe niebieskie linie pokazują pasowanie najmniejszych kwadratów. Dane i prawdziwa relacja są takie same w obu panelach: różnią się tylko modele i ich dopasowanie.

Dopasowanie do logarytmicznych odpowiedzi po prawej wyraźnie jest dobre: ​​prawie pokrywa się z prawdziwą relacją i obie są liniowe. Dopasowanie do pierwotnych odpowiedzi po lewej wyraźnie jest gorsze: jest liniowe, podczas gdy prawdziwa relacja jest wykładnicza. Niestety ma znacznie większą wartość$R^2$: $0.70$ w porównaniu do $0.56$. Dlatego nie powinniśmy ufać$R^2$aby doprowadzić nas do lepszego modelu. Dlatego nie powinniśmy być zadowoleni z dopasowania, nawet gdy$R^2$ jest „wysoki” (aw wielu aplikacjach wartość $0.70$ byłoby rzeczywiście uważane za wysokie).

Nawiasem mówiąc, lepszym sposobem oceny tych modeli są testy poprawności dopasowania (które wskazywałyby na wyższość modelu logu po prawej) i wykresy diagnostyczne dla stacjonarności reszt (które uwypukliłyby problemy w obu modelach). Takie oceny naturalnie prowadziłyby albo do ważonego dopasowania najmniejszych kwadratów$\log(y)$ lub bezpośrednio do modelu $(3)$ sam, który musiałby być dopasowany przy użyciu metody największego prawdopodobieństwa lub nieliniowych metod najmniejszych kwadratów.