Różnica między ep-SVR i nu-SVR (i SVR metodą najmniejszych kwadratów)

Próbuję dowiedzieć się, który SVR jest odpowiedni dla tego rodzaju danych.

Znam 4 typy SVR:

• epsilon
• nu
• najmniejszych kwadratów i
• liniowy.

Rozumiem, że liniowy SVR przypomina mniej więcej lasso z L1 Reg, ale jaka jest różnica między pozostałymi 3 technikami?

W SVR parametr ν służy do określenia proporcji liczby wektorów pomocniczych, które chcesz zachować w swoim roztworze, w stosunku do całkowitej liczby próbek w zbiorze danych. W ν- SVR parametr ϵ jest wprowadzany do sformułowania problemu optymalizacji i jest dla ciebie automatycznie (optymalnie) szacowany.$\nu$$\nu$$\nu$$\epsilon$

Jednak w -SVR nie masz kontroli nad tym, ile wektorów danych ze zbioru danych staje się wektorami pomocniczymi, może to być kilka, może być wiele. Niemniej jednak będziesz mieć całkowitą kontrolę nad tym, ile błędów pozwolisz na swój model, a wszystko poza określonym ϵ będzie karane proporcjonalnie do C , który jest parametrem regularyzacji.$\epsilon$$\epsilon$$C$

W zależności od tego, czego chcę, wybieram między tymi dwoma. Jeśli naprawdę jestem zdesperowany, by znaleźć małe rozwiązanie (mniej wektorów pomocniczych), wybieram SVR i mam nadzieję uzyskać przyzwoity model. Ale jeśli naprawdę chcę kontrolować ilość błędów w moim modelu i wybrać najlepszą wydajność, wybieram ϵ -SVR i mam nadzieję, że model nie jest zbyt skomplikowany (wiele wektorów pomocniczych).$\nu$$\epsilon$

$\epsilon$$\nu$$\nu$$\nu$

Najmniejsze kwadraty SVR różnią się od pozostałych dwóch poprzez użycie kwadratowych reszt w funkcji kosztu zamiast utraty zawiasu.

$\nu$

Lubię zarówno odpowiedzi Pabla, jak i Marca. Jeden dodatkowy punkt:

W artykule cytowanym przez Marca jest napisane (sekcja 4)

$\nu$$\epsilon$$\epsilon$$\epsilon$$y$

[...]

$\epsilon$$y$$\epsilon$$[-1,+1]$$\epsilon$$[0, 1]$$\nu$$\epsilon$

$\epsilon$$\epsilon -$$\nu -$

Co myślisz?