Statystyki i duże zbiory danych conv-neural-network

2

Jaka jest różnica między inicjatorem skalowania wariancji a inicjatorem Xaviera?

W implementacji ResNet przez Tensorflow widzę , że używają inicjalizatora skalowania wariancji, a także, że inicjator Xavier jest popularny. Nie mam za dużo doświadczenia, co jest lepsze w praktyce?

20 machine-learning neural-networks deep-learning conv-neural-network tensorflow

4

Czy warto klasyfikować sygnał 1D za pomocą CNN?

Pracuję nad klasyfikacją etapu snu. Czytałem niektóre artykuły badawcze na ten temat, wiele z nich używało SVM lub metody ensemble. Czy dobrym pomysłem jest użycie splotowej sieci neuronowej do klasyfikacji jednowymiarowego sygnału EEG? Jestem nowy w tego rodzaju pracy. Wybacz mi, jeśli poproszę o coś złego?

20 neural-networks svm conv-neural-network signal-processing

2

Co robią w pełni połączone warstwy w sieciach CNN?

Rozumiem warstwy splotowe i łączące, ale nie widzę powodu w pełni połączonej warstwy w sieciach CNN. Dlaczego poprzednia warstwa nie jest bezpośrednio połączona z warstwą wyjściową?

19 neural-networks deep-learning conv-neural-network

6

Warstwy splotowe: do padania czy nie?

Architektura AlexNet korzysta z wypełnień zerowych, jak pokazano na rysunku: W artykule nie ma jednak wyjaśnienia, dlaczego wprowadzono to wypełnienie. Kurs Standford CS 231n uczy, że używamy paddingu, aby zachować rozmiar przestrzenny: Zastanawiam się, czy to jedyny powód, dla którego potrzebujemy wypełnienia? Mam na myśli, że jeśli nie muszę zachowywać …

19 conv-neural-network convolution

5

Jaka jest różnica między „uczeniem się na zasadzie transferu” a „adaptacją domeny”?

Czy jest jakaś różnica między „uczeniem się przez transfer” a „adaptacją domeny”? Nie wiem o kontekście, ale rozumiem, że mamy jakiś zestaw danych 1 i trenujemy go, po czym mamy inny zestaw danych 2, do którego chcemy dostosować nasz model bez ponownego szkolenia od zera, dla którego „uczenie się przez …

19 deep-learning terminology conv-neural-network transfer-learning domain-adaptation

4

Jaka jest różnica między Conv1D a Conv2D?

Przeglądałem dokumenty konwolucji keras i znalazłem dwa rodzaje konwulsji Conv1D i Conv2D. Przeprowadziłem wyszukiwanie w Internecie i właśnie to rozumiem na temat Conv1D i Conv2D; Conv1D jest używany do sekwencji, a Conv2D do zdjęć. Zawsze myślałem, że sieci nerwowe splotu są używane tylko do obrazów i w ten sposób wizualizują …

19 machine-learning neural-networks conv-neural-network keras

2

Dlaczego maksymalne tworzenie pul jest konieczne w splotowych sieciach neuronowych?

Najpopularniejsze splotowe sieci neuronowe zawierają pule warstw, aby zmniejszyć wymiary elementów wyjściowych. Dlaczego nie mogłem osiągnąć tego samego, po prostu zwiększając tempo warstwy splotowej? Co sprawia, że warstwa puli jest konieczna?

18 deep-learning conv-neural-network pooling

4

O CNN, jądrach i niezmienności skali / rotacji

Mam kilka pytań, które mnie dezorientują w odniesieniu do CNN. 1) Funkcje wyodrębnione za pomocą CNN są niezmienne w skali i rotacji? 2) Jądra, których używamy do splotu z naszymi danymi, są już zdefiniowane w literaturze? jakie są te jądra? czy jest inaczej dla każdej aplikacji?

18 neural-networks deep-learning conv-neural-network

2

Co powoduje nagłe spadki błędów treningu / błędów podczas szkolenia sieci neuronowej?

Widziałem wykresy błędu testu / treningu nagle spadające kilka razy w pewnej epoce (ach) podczas treningu sieci neuronowej i zastanawiam się, co powoduje te skoki wydajności: To zdjęcie pochodzi z Kaiming Jest Githubem, ale podobne wątki pojawiają się w wielu artykułach.

18 conv-neural-network

1

liczba map obiektów w splotowych sieciach neuronowych

Ucząc się splotowej sieci neuronowej, mam pytania dotyczące poniższego rysunku. 1) C1 w warstwie 1 ma 6 map obiektów, czy to oznacza, że istnieje sześć zwojów splotowych? Każde jądro splotowe służy do generowania mapy obiektów na podstawie danych wejściowych. 2) S1 w warstwie 2 ma 6 map obiektów, C2 ma …

16 machine-learning neural-networks deep-learning pattern-recognition conv-neural-network

3

Co robi krok konwolucji w sieci neuronowej konwergencji?

Studiuję splotowe sieci neuronowe (CNN) ze względu na ich zastosowania w wizji komputerowej. Znam już standardowe sieci neuronowe typu feed-forward, więc mam nadzieję, że niektórzy ludzie tutaj pomogą mi zrobić dodatkowy krok w zrozumieniu CNN. Oto, co myślę o CNN: W tradycyjnych NN z feed-feedem mamy dane treningowe, w których …

16 neural-networks deep-learning conv-neural-network convolution

1

Jakie znaczenie ma liczba filtrów splotowych w sieci splotowej?

Jaka jest liczba filtrów w warstwie splotowej? Jak ta liczba wpływa na wydajność lub jakość architektury? Mam na myśli, czy zawsze powinniśmy wybierać większą liczbę filtrów? co z nich dobrego? i W jaki sposób ludzie przypisują różną liczbę filtrów dla różnych warstw? Mam na myśli spojrzenie na to pytanie: jak …

16 deep-learning conv-neural-network

4

Ile danych potrzebujesz do splotowej sieci neuronowej?

Jeśli mam splotową sieć neuronową (CNN), która ma około 1 000 000 parametrów, ile danych treningowych jest potrzebnych (zakładam, że wykonuję stochastyczne obniżanie gradientu)? Czy jest jakaś reguła? Dodatkowe uwagi: Kiedy wykonałem stochastyczne opadanie gradientu (np. 64 łaty na 1 iterację), po ~ 10000 iteracjach dokładność klasyfikatora może osiągnąć z …

15 machine-learning neural-networks deep-learning conv-neural-network

1

Co to jest klasyfikacja czasowa łączników (CTC)?

Szukam projektu optycznego rozpoznawania znaków (OCR). Po przeprowadzeniu badań natrafiłem na architekturę, która wydaje się interesująca: CNN + RNN + CTC. Znam zwinięte sieci neuronowe (CNN) i rekurencyjne sieci neuronowe (RNN), ale czym jest klasyfikacja czasowa łącznika (CTC)? Chciałbym wyjaśnienia w kategoriach laika.

15 machine-learning deep-learning conv-neural-network rnn

1

Dlaczego ważne jest uwzględnienie terminu korekty odchylenia dla optymalizatora Adama w przypadku głębokiego uczenia się?

Czytałem o optymalizatorze Adama do głębokiego uczenia się i natknąłem się na następujące zdanie w nowej książce Głębokie uczenie się autorstwa Begnio, Goodfellow i Courtville: Adam wprowadza korekty błędu wstępnego w szacunkach zarówno momentów pierwszego rzędu (okres pędu), jak i (niecentrowanych) momentów drugiego rzędu, aby uwzględnić ich inicjalizację u źródła. …

15 machine-learning neural-networks optimization conv-neural-network adam

Pytania otagowane jako conv-neural-network