Statystyczna teoria uczenia się VS obliczeniowa teoria uczenia się?

Jakie są zależności i różnice między statystyczną teorią uczenia się a obliczeniową teorią uczenia się ?

Czy dotyczą tego samego tematu? Rozwiąż te same problemy i użyj tych samych metod?

Na przykład ten pierwszy mówi, że jest to teoria przewidywania (regresja, klasyfikacja, ...).

machine-learning statistical-learning artificial-intelligence

— Tim
źródło

To jest naprawdę świetne pytanie. Chciałem zadać podobne pytanie, ale pomyślałem, że pociąga to za sobą te same właściwości pytania, które chciałem zadać. Widziałem wiele książek, wiele wyszukiwań w Google i stron Wikipedii. Myślę, że oba pytania są powiązane pod względem frazowania ich jako przykładowych pytań o złożoności, ale nie byłem w stanie znaleźć żadnych zasobów wskazujących na pracę wykonaną w tej dziedzinie przed PAC. Wszystkie książki, które widziałem, zaczynają się od PAC, co powoduje, że zastanawiam się, co wydarzyło się przed PAC.

— Kirk Walla

Nauka obliczeniowa, a ściślej mówiąc, prawdopodobnie w przybliżeniu poprawna struktura ( PAC ), odpowiada na pytania takie jak: ile przykładów szkolenia potrzeba, aby uczący się z dużym prawdopodobieństwem nauczył się dobrej hipotezy? ile wysiłku obliczeniowego muszę nauczyć się z dużym prawdopodobieństwem takiej hipotezy? Nie dotyczy konkretnego klasyfikatora, z którym pracujesz. Chodzi o to, czego możesz, a czego nie możesz się nauczyć z niektórymi próbkami.

W statystycznej teorii uczenia się raczej odpowiadasz na pytania tego rodzaju: ile próbek treningowych klasyfikator błędnie zaklasyfikuje, zanim osiągnie dobrą hipotezę? tzn. jak ciężko jest przeszkolić klasyfikatora i jakie mam gwarancje jego działania?

Niestety nie znam źródła, w którym te dwa obszary zostały opisane / porównane w ujednolicony sposób. Mimo to, choć niewiele nadziei na to pomaga

— jpmuc
źródło