Wprowadzenie do uczenia maszynowego dla matematyków

23

W pewnym sensie jest to mój krzyż z strony mat.stackexchange i mam wrażenie, że ta strona może zapewnić szerokie grono odbiorców.

Szukam matematycznego wprowadzenia do uczenia maszynowego. W szczególności wiele literatury, która można znaleźć, jest stosunkowo nieprecyzyjna, a wiele stron wydaje się bez żadnej zawartości.

Jednak zaczynając od takiej literatury, odkryłem kursy Coursera od Andrew Ng, książkę Bishopa o rozpoznawaniu wzorów i wreszcie książkę Smoli. Niestety książka Smoli jest tylko w stanie roboczym. W książce Smoli można znaleźć nawet dowody, które do mnie przemawiają. Książka Bishopa jest już całkiem dobra, ale brakuje pewnej dyscypliny.

W skrócie: szukam książki takiej jak Smola, to znaczy tak precyzyjnej i rygorystycznej, jak to możliwe, wykorzystującej podstawy matematyczne (choć krótkie wprowadzenie jest oczywiście OK).

Jakieś rekomendacje?

machine-learning references pac-learning

— Quickbeam2k1
źródło

1

W przyszłości proszę nie krzyżować.

— Momo,

Wygląda na to, że pytanie jest niedokończone - łamie się po „i”.

— JW

przepraszam, jakoś moja edycja zniknęła.

— Quickbeam2k1

1

możesz wyjaśnić, dlaczego matematyk chce się uczyć o uczeniu maszynowym (aby znaleźć pracę jako specjalista

— ds.

1

w przypadku nauki o danych twierdzę, że potrzebujesz podstawowej wiedzy statystycznej (np. regresji liniowej / logistycznej), projektowania eksperymentalnego - np. testowania ab itp., a ponadto zrozumienia technik systemu rekomendującego

— seanv507

9

Do tego, co opisujesz, gorąco polecam „Podstawy uczenia maszynowego” Mohri i in. Jest to tekst licencjacki, ale dla naprawdę dobrych studentów. Jest czytelny i jest to jedyne miejsce, w którym znalazłem coś, co nazwałbym matematyczną definicją uczenia maszynowego (pac i słabe pac). Warto przeczytać tylko z tego powodu. Mam też doktorat z matematyki. Znam wiele książek wymienionych powyżej. Szczególnie podoba mi się ESL w szerokim spektrum technik i pomysłów, ale jest to książka statystyczna z dużą ilością matematyki.

— meh
źródło

1

Przy okazji powiedziano mi, że Schapire w swojej pracy udowodnił, że słaby PAC implikuje PAC. Jego dowód sprowadza się do techniki wzmocnienia, więc jest to dobry przykład tego, jak teoretyczne pytanie doprowadziło do bardzo praktycznego wyniku.

— meh

Dziękuję za twoje uwagi. Myślę, że będę pracować z ESL później po pracy z książkami Mohri i Shalev-

— Shwartz

12

Poleciłbym elementy uczenia statystycznego (darmowy plik PDF). Ma wystarczającą matematykę i dobre wprowadzenie do wszystkich odpowiednich technik - wraz z pewnymi spostrzeżeniami na temat tego, dlaczego techniki działają (a kiedy nie).

Również wprowadzenie do uczenia statystycznego (co jest bardziej praktyczne - jak to zrobić w języku R ). Ma kurs nauki statystycznej ; możesz znaleźć wykłady na YouTube (i ponownie bezpłatny PDF).

— seanv507
źródło

3

To bardzo miła rekomendacja. Oprócz tego sugeruję „Uczenie się z danych” od Yaser S. Abu-Mostafa. Jest wysoce teoretyczny, ale bardzo jasno wyjaśnia takie tematy, jak wykonalność uczenia się i wymiar VC. Są filmy i slajdy dostępne online .

— tiagotvv

Popieram sugestię „Uczenie się z danych” Yasera S. Abu-Mostafa. Książka jest bardzo krótka, ale pełna cennych informacji. W rzeczywistości duży nacisk położono na wykonalność uczenia się i złożoność.

— Vladislavs Dovgalecs

7

Prawdopodobnie spodoba ci się nauka z jądrem Schölkopf i Smoli. Większość prac Schölkopf jest matematycznie rygorystyczna.

To powiedziawszy, prawdopodobnie lepiej jest czytać prace naukowe niż podręczniki. Prace naukowe zawierają pełne pochodne i dowody zbieżności, granice wydajności itp., Które bardzo często nie są zawarte w podręcznikach. Dobrym miejscem do rozpoczęcia jest Journal of Machine Learning , który jest bardzo ceniony i ma w pełni otwarty dostęp. Polecam również przebieg konferencji takich jak ICML , NIPS , COLT i IJCNN .

— Peter Mortensen
źródło

dzięki za wskazówki z dziennika. Obawiam się jednak, że jak dotąd czasopisma są dla mnie zbyt zaawansowane. Niemniej jednak ta migracja będzie cennym źródłem na przyszłość.

— Quickbeam2k1

4

Sugerowałbym zrozumienie uczenia maszynowego: od teorii do algorytmów Shai Shalev-Shwartz. Przyznaję, że czytałem tylko małe jego fragmenty, ale od razu zauważyłem rygor, z jakim autor podchodził do każdego problemu i dyskusji.

— Vladislavs Dovgalecs
źródło