Pytania otagowane jako neural-networks

Sztuczne sieci neuronowe (ANN) to szeroka klasa modeli obliczeniowych luźno opartych na biologicznych sieciach neuronowych. Obejmują one wyprzedzające NN (w tym „głębokie” NN), splotowe NN, nawracające NN itp.

3
Jak dokładnie splotowe sieci neuronowe używają splotu zamiast mnożenia macierzy?
Czytałem książkę Yoshua Bengio o głębokim uczeniu się i na stronie 224 napisano: Sieci splotowe to po prostu sieci neuronowe, które używają splotu zamiast ogólnego mnożenia macierzy w co najmniej jednej z ich warstw. nie byłem jednak w 100% pewien, jak „zastąpić mnożenie macierzy splotem” w matematycznie precyzyjnym sensie. To, …
2
Co stoi na przeszkodzie wykorzystywaniu pulsacyjnych sieci neuronowych w aplikacjach?
Pulsacyjne lub impulsowe sieci neuronowe zawierają więcej dynamiki błonowej neuronów biologicznych, gdzie impulsy przenoszą informacje do następnej warstwy. Neurony niekoniecznie muszą „strzelać” jednocześnie, tak jak na przykład w backpropie. Wydaje się jednak, że istnieją przeszkody w stosowaniu tych modeli w przypadku problemów z uczeniem maszynowym. Jakie konkretne problemy stoją na …
1
Jak skutecznie modelować sieć neuronową?
Jaki powinien być stosunek liczby obserwacji do liczby zmiennych? Jak wykryć nadmierne dopasowanie w modelu sieci neuronowej i jakie są sposoby uniknięcia nadmiernego dopasowania? Jeśli chcę przeprowadzić klasyfikację za pomocą sieci neuronowej, czy klasy powinny mieć równą częstotliwość? Proszę pomóż mi.
2
Dlaczego RNN z jednostkami LSTM może cierpieć z powodu „eksplodujących gradientów”?
Mam podstawową wiedzę na temat działania RNN (a zwłaszcza jednostek LSTM). Mam obrazowe wyobrażenie o architekturze jednostki LSTM, czyli komórki i kilku bramek, które regulują przepływ wartości. Jednak najwyraźniej nie do końca zrozumiałem, w jaki sposób LSTM rozwiązuje problem „znikania i eksplodowania gradientów”, który pojawia się podczas treningu, z wykorzystaniem …
4
Jeśli każdy neuron w sieci neuronowej jest w zasadzie funkcją regresji logistycznej, dlaczego wielowarstwowość jest lepsza?
Przechodzę przez kurs DeepAI Cousery (film 3 tygodnia 1 „Przegląd sieci neuronowych”), a Andrew Ng wyjaśnia, w jaki sposób każda warstwa w sieci neuronowej jest kolejną regresją logistyczną, ale nie wyjaśnia, w jaki sposób poprawia to dokładność. W jaki sposób w sieci dwuwarstwowej wielokrotne obliczanie logistyki czyni ją dokładniejszą?
3
Teoretyczne wyniki za sztucznymi sieciami neuronowymi
Właśnie omówiłem Sztuczne sieci neuronowe na kursie Machine Learning Coursera i chciałbym poznać więcej teorii za nimi. Motywacja, którą naśladują biologię, jest dla mnie niezadowalająca. Na powierzchni wydaje się, że na każdym poziomie zastępujemy zmienne towarzyszące ich liniową kombinacją. Robiąc to wielokrotnie, pozwalamy na nieliniowe dopasowanie modelu. Nasuwa się pytanie: …
2
Dlaczego funkcje pochodne są używane w sieciach neuronowych?
Na przykład chce się przewidzieć ceny domu i mieć dwie cechy wejściowe: długość i szerokość domu. Czasami jeden zawiera również „wielowymiarowe” funkcje wprowadzania, takie jak obszar, który ma długość * szerokość. 1) Po co uwzględniać funkcje pochodne? Czy sieć neuronowa nie powinna nauczyć się związku między długością, szerokością i ceną …
1
Jak działa propagacja wsteczna w syjamskiej sieci neuronowej?
Studiowałem architekturę syjamskiej sieci neuronowej wprowadzonej przez Yanna LeCuna i jego współpracowników w 1994 r. Do rozpoznawania podpisów ( „Weryfikacja podpisu przy użyciu sieci neuronowej z opóźnieniem czasowym syjamskim” .pdf , NIPS 1994) Zrozumiałem ogólną ideę tej architektury, ale tak naprawdę nie rozumiem, jak działa backpropagacja w tym przypadku. Nie …
3
Hidden Markov Model vs Recurrent Neural Network
Które problemy z sekwencyjnym wejściem są najbardziej odpowiednie dla każdego? Czy wymiar wejściowy określa, które z nich jest lepsze? Czy problemy wymagające „dłuższej pamięci” lepiej pasują do RNN LSTM, podczas gdy problemy z cyklicznymi wzorcami wprowadzania danych (giełda, pogoda) są łatwiejsze do rozwiązania przez HMM? Wygląda na to, że nakładają …
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.