Dlaczego R Squared nie jest dobrym miernikiem dopasowania regresji za pomocą LASSO?

Czytałem w kilku miejscach, że R Squared nie jest idealną miarą, gdy model jest dopasowany przy użyciu LASSO. Jednak nie jestem do końca pewien , dlaczego tak jest.

Ponadto, czy możesz polecić najlepszą alternatywę?

— Dave
źródło

Celem użycia LASSO jest uzyskanie rzadkiej reprezentacji (przewidywanej wielkości) w sensie braku wielu zmiennych towarzyszących. Porównywanie modeli z ma tendencję do faworyzowania modeli z dużą liczbą zmiennych towarzyszących: w rzeczywistości dodanie zmiennych towarzyszących niezwiązanych z wynikiem nigdy nie zmniejszy i prawie zawsze zwiększa ją przynajmniej trochę. Model LASSO zidentyfikuje model z optymalnym karalnym prawdopodobieństwem logarytmicznym (niezenalizowane prawdopodobieństwo logu jest monotonicznie powiązane z ). Statystyki walidacyjne, które są szerzej stosowane do porównywania modeli LASSO z innymi typami modeli, to na przykład BIC lub cross-validated . $R^2$ $R^2$ $R^2$ $R^2$

— AdamO
źródło

+1 za jasne przedstawienie przyczyny i

— podanie

Dziękuję bardzo za świetną odpowiedź! Czy miałbyś coś przeciwko opracowaniu „Model LASSO zidentyfikuje model z optymalnym karalnym prawdopodobieństwem logu (niezenalizowane prawdopodobieństwo logu jest monotonicznie powiązane z R2)”. Rozumiem, że pierwsza część oznacza, że wybierze model z najmniejszą ilością błędów (w przewidywaniu i poprzez karę)? Ale nie jestem pewien, co oznacza bit w nawiasach. Czy to oznacza, że niezainicjowany poziom LL rośnie wraz ze spadkiem R2? Ponadto, czy R2 sprawdzony krzyżowo musi znajdować się w zupełnie nowym zestawie danych? Czy może być oparty na danych szkoleniowych?

— Dave

@Dave Myślę, że masz dobry pomysł. Model regresji liniowej to LASSO bez kary, a prawdopodobieństwo logarytmu to po prostu podczas gdy R2 to tylko . Kary przyczyniają się do błędu pośrednio, jest to cena, którą płacisz za egzekwowanie rzadkości. W niez zdecentralizowanym modelu zawsze będzie występował niższy (wewnętrzny) błąd. Ludzie zazwyczaj dokonują weryfikacji krzyżowej przy użyciu tego samego zestawu danych. Testowanie modeli w nowych zestawach danych to zupełnie inna sprawa (nie potrzeba części „krzyżowej”) i to nie wystarczy.

\log (2 π) N + 1 - \log (N) + \log (\sum_{i = 1}^{n} r_{i}^{2})

$\log(2\pi)N+1−\log(N)+\log(\sum_{i=1}^n r_i^2)$

1 - \sum_{i = 1}^{n} r_{i}^{2} / \sum_{i = 1}^{n} y_{i}^{2}

$1 - \sum_{i=1}^n r_i^2/\sum_{i=1}^ny_i^2$

— AdamO,

@AdamO Myślę, że dobrym pomysłem byłoby edytowanie komentarza w odpowiedzi, jest to bardzo dobre.

— Matthew Drury

Cześć @AdamO, ostatnie pytanie uzupełniające. Rozumiem teraz, dlaczego tradycyjny R2 jest złym miernikiem. Ale nie jestem pewien, dlaczego sprawdzanie poprawności krzyżowej R2 (w tym samym zestawie danych) jest w porządku?

— Dave