SVM dla niezrównoważonych danych

Chcę spróbować użyć maszyn wektorów wsparcia (SVM) w moim zestawie danych. Zanim jednak spróbowałem rozwiązać problem, zostałem ostrzeżony, że maszyny SVM nie radzą sobie dobrze z bardzo niezrównoważonymi danymi. W moim przypadku mogę mieć aż 95-98% zera i 2-5% 1.

Próbowałem znaleźć zasoby, które mówiły o używaniu SVM na rzadkich / niezrównoważonych danych, ale wszystko, co mogłem znaleźć, to „rzadkie SVM” (które używają niewielkiej liczby wektorów pomocniczych).

Miałem nadzieję, że ktoś może krótko wyjaśnić:

1. Jak dobrze można oczekiwać, że SVM poradzi sobie z takim zestawem danych
2. Które ewentualne modyfikacje należy wprowadzić w algorytmie SVM
3. Jakie zasoby / dokumenty omawiają to

Wiele implementacji SVM rozwiązuje ten problem, przypisując różne wagi do wystąpień dodatnich i ujemnych. Zasadniczo ważymy próbki, aby suma wag dla dodatnich wartości była równa wartości ujemnej. Oczywiście, oceniając SVM, należy pamiętać, że jeśli 95% danych jest negatywnych, uzyskanie dokładności 95% zawsze jest banalne, zawsze przewidując negatywne. Musisz więc upewnić się, że wskaźniki oceny są również ważone, aby były zrównoważone.

W szczególności w libsvm, który został dodany jako tag, jest flaga, która pozwala ustawić wagi klas ( -wsądzę, ale sprawdź dokumenty ).

Wreszcie z własnego doświadczenia mogę powiedzieć, że często stwierdzam, że SVM przyniesie bardzo podobne wyniki z korekcją wagi lub bez niej.

SVM działają dobrze na rzadkich i niezrównoważonych danych. Klasa SVM ważona jest zaprojektowana do radzenia sobie z niezrównoważonymi danymi poprzez przypisywanie wyższych kar za błędne klasyfikacje do instancji szkoleniowych klasy mniejszościowej.

W przypadku tak rzadkich danych SVM będzie działał dobrze.

Jak stwierdził @Bitwise, nie należy używać dokładności do mierzenia wydajności algorytmu.

Zamiast tego należy obliczyć dokładność, przywołanie i wynik F algorytmu.