Referencje sieci neuronowej (podręczniki, kursy online) dla początkujących

Chcę nauczyć się sieci neuronowych. Jestem lingwistą komputerowym. Znam statystyczne metody uczenia maszynowego i potrafię kodować w Pythonie.

Chciałbym zacząć od jego koncepcji i znam jeden lub dwa popularne modele, które mogą być przydatne z perspektywy językoznawstwa komputerowego.

Przeglądałem sieć w celach informacyjnych i znalazłem kilka książek i materiałów.

• Ripley, Brian D. (1996) Pattern Recognition and Neural Networks, Cambridge

• Bishop, CM (1995) Neural Networks for Pattern Recognition, Oxford: Oxford University Press.

• niektóre linki, takie jak teza , notatki z kursu (Wydział Psychologii Uniwersytetu Toronto), notatki z kursu (University of Wisconsin Computer Science) i pokaz slajdów (Facebook Research).

Kursy Coursera są na ogół fajne, jeśli ktoś wie od nich coś istotnego. Wolę materiały z przejrzystym językiem i licznymi przykładami.

Masz szczęście! W tej chwili dostępna jest niesamowita liczba zasobów. W szczególności możesz spojrzeć na:

• Coursera Oczywiście zaczynając wkrótce
• niedawno opublikowany podręcznik online niektórych liderów w tej dziedzinie (Goodfellow, Bengio i Courville)
• te notatki z wykładów i niniejszy przegląd , które są bardziej zorientowane na przetwarzanie języka naturalnego
• zestaw postów na blogu z pięknymi wizualizacjami autorstwa Chrisa Olaha
• dwa dobrze obsługiwane zestawy narzędzi z interfejsem Python i samouczki online: Tensorflow i Theano

Główne referencje:

Kursy głębokiego uczenia się:

• Kurs Andrew Ng na temat uczenia maszynowego zawiera ładny rozdział wprowadzający na temat sieci neuronowych.
• Kurs Geoffrey Hinton: Coursera Neural Networks for Machine Learning (jesień 2012)
• Darmowa książka Michaela Nielsena Neural Networks and Deep Learning
• Yoshua Bengio, Ian Goodfellow i Aaron Courville napisali książkę o głębokim uczeniu się (2016)
• Kurs Hugo Larochelle'a (filmy + slajdy) na Université de Sherbrooke
• Samouczek Stanforda (Andrew Ng i in.) Na temat nienadzorowanego uczenia się funkcji i głębokiego uczenia się
• Kurs Oxford 2014-2015
• Kurs głębokiego uczenia się NVIDIA (lato 2015)
• Kurs Google Deep Learning na temat Udacity (styczeń 2016 r.)

Zorientowany na NLP:

• Stanford CS224d: Deep Learning for Natural Language Processing (wiosna 2015) autorstwa Richarda Sochera
• Samouczek na NAACL HLT 2013: Głębokie uczenie się przetwarzania języka naturalnego (bez magii) (filmy + slajdy)

Zorientowany na wizję:

• CS231n Convolutional Neural Networks for Visual Recognition autorstwa Andreja Karpathy'ego (poprzednia wersja, krótsza i mniej dopracowana: przewodnik hakera po sieciach neuronowych ).

Samouczki dotyczące zestawu narzędzi:

• DL4J (Java): http://deeplearning4j.org/documentation.html
• Theano (Python, Y. Bengio): http://deeplearning.net/
• Uczenie maszynowe z Torch7 (Lua, LeCun): http://code.madbits.com/wiki/doku.php
• H2O Deep Learning (Java): http://0xdata.com/product/deep-learning/
• Caffee (C ++, UCB): http://caffe.berkeleyvision.org/
• Kurs głębokiego uczenia się Nervana

http://www.kdnuggets.com/2015/11/seven-steps-machine-learning-python.html

http://neuralnetworksanddeeplearning.com/

To były moje ulubione zasoby. Rozpoczął od kursu uczenia maszynowego Stanforda, ale wolę czytać niż wykłady. Zwłaszcza, że ​​odczyty są oparte na przykładach.

https://coorsy.com/topics/artificial-neural-network/for-beginners

Możesz przeglądać kursy online od wielu dostawców kursów tutaj. Proponuję również przejrzeć powiązane tematy.

Sieci neuronowe i głębokie uczenie się to przystępny punkt wyjścia .

Sieci neuronowe i głębokie uczenie się to darmowa książka online. Książka nauczy Cię o:

Sieci neuronowe, piękny biologicznie inspirowany paradygmat programowania, który umożliwia komputerowi uczenie się z danych obserwacyjnych Głębokie uczenie się, potężny zestaw technik uczenia się w sieciach neuronowych Sieci neuronowe i głębokie uczenie się zapewniają obecnie najlepsze rozwiązania wielu problemów z rozpoznawaniem obrazu, mową rozpoznawanie i przetwarzanie języka naturalnego. Ta książka nauczy Cię wielu podstawowych pojęć związanych z sieciami neuronowymi i głębokim uczeniem się.

Do szybkiego uczenia się wybrałbym:

Wykład głębokiego uczenia się prowadzony przez wielkiego nauczyciela-badacza Nando de Freitasa: https://www.cs.ox.ac.uk/people/nando.defreitas/machinelearning/

Dla praktycznego zrozumienia teorii programowania w języku Python ten materiał Andreja Karpathy: http://cs231n.github.io/

A dla NLP: https://arxiv.org/abs/1510.00726

http://yerevann.com/a-guide-to-deep-learning/

To daje dobre wskazówki na temat Twojej głębokiej nauki.