Programowanie neural-network

5

Patrzyłem na dokumentację tensorflow o tf.nn.conv2d tutaj . Ale nie mogę zrozumieć, co to robi ani co próbuje osiągnąć. W dokumentach jest napisane, # 1: spłaszcza filtr do matrycy 2-D z kształtem [filter_height * filter_width * in_channels, output_channels]. Co to teraz robi? Czy jest to mnożenie elementarne, czy po prostu …

135 neural-network tensorflow

2

Dlaczego musimy wywoływać zero_grad () w PyTorch?

Metodę zero_grad()należy wywołać podczas treningu. Ale dokumentacja nie jest zbyt pomocna | zero_grad(self) | Sets gradients of all model parameters to zero. Dlaczego musimy wywołać tę metodę?

126 python neural-network deep-learning pytorch gradient-descent

9

Jak zainicjować wagi w PyTorch?

Jak zainicjować wagi i odchylenia (na przykład z inicjalizacją He lub Xavier) w sieci w PyTorch?

119 python neural-network deep-learning pytorch

9

Zamawianie normalizacji i rezygnacji z partii?

Pierwotne pytanie dotyczyło konkretnie implementacji TensorFlow. Jednak odpowiedzi dotyczą ogólnie wdrożeń. Ta ogólna odpowiedź jest również poprawną odpowiedzią dla TensorFlow. Czy podczas korzystania z normalizacji wsadowej i rezygnacji z TensorFlow (w szczególności z plików contrib.layers) muszę się martwić o zamówienie? Wydaje się możliwe, że jeśli użyję dropout, po którym natychmiast …

116 python neural-network tensorflow conv-neural-network

4

Argument Tensorflow Strides

Próbuję zrozumieć krokami argument w tf.nn.avg_pool, tf.nn.max_pool, tf.nn.conv2d. Dokumentacja wielokrotnie mówi strides: lista wartości typu int, które mają długość> = 4. Krok przesuwanego okna dla każdego wymiaru tensora wejściowego. Moje pytania to: Co reprezentuje każda z 4+ liczb całkowitych? Dlaczego muszą mieć strides [0] = strides [3] = 1 dla …

115 python neural-network convolution tensorflow conv-neural-network

4

Pytorch, jakie są argumenty gradientowe

Czytam dokumentację PyTorch i znalazłem przykład, na którym piszą gradients = torch.FloatTensor([0.1, 1.0, 0.0001]) y.backward(gradients) print(x.grad) gdzie x było początkową zmienną, z której skonstruowano y (3-wektor). Pytanie brzmi, jakie są argumenty 0,1, 1,0 i 0,0001 tensora gradientu? Dokumentacja nie jest w tym zbyt jasna.

112 neural-network gradient pytorch torch gradient-descent

3

Jaka jest różnica między sparse_softmax_cross_entropy_with_logits i softmax_cross_entropy_with_logits?

Niedawno natknąłem się na tf.nn.sparse_softmax_cross_entropy_with_logits i nie mogę zrozumieć, jaka jest różnica w porównaniu do tf.nn.softmax_cross_entropy_with_logits . Czy jedyną różnicą jest to, że wektory szkoleniowe ymuszą być zakodowane na gorąco podczas używania sparse_softmax_cross_entropy_with_logits? Czytając API, nie mogłem znaleźć żadnej innej różnicy w porównaniu z softmax_cross_entropy_with_logits. Ale dlaczego potrzebujemy wtedy dodatkowej …

111 neural-network tensorflow softmax cross-entropy

16

Jakie są dobre źródła informacji o sztucznych sieciach neuronowych? [Zamknięte]

Zamknięte. To pytanie nie spełnia wytycznych dotyczących przepełnienia stosu . Obecnie nie przyjmuje odpowiedzi. Chcesz poprawić to pytanie? Zaktualizuj pytanie, aby było na temat przepełnienia stosu. Zamknięte 6 lat temu . Popraw to pytanie Naprawdę interesują mnie sztuczne sieci neuronowe, ale szukam miejsca, od którego mógłbym zacząć. Jakie zasoby są …

109 neural-network

5

Jaka jest rola „Spłaszczenia” w Keras?

Próbuję zrozumieć rolę tej Flattenfunkcji w Keras. Poniżej znajduje się mój kod, który jest prostą siecią dwuwarstwową. Pobiera dwuwymiarowe dane kształtu (3, 2) i generuje jednowymiarowe dane kształtu (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', optimizer='SGD') x = np.array([[[1, 2], [3, 4], [5, 6]]]) y …

109 machine-learning tensorflow neural-network deep-learning keras

2

Wiele do jednego i wiele do wielu przykładów LSTM w Keras

Próbuję zrozumieć LSTM i jak je zbudować za pomocą Keras. Dowiedziałem się, że są zasadniczo 4 tryby do uruchomienia RNN (4 właściwe na zdjęciu) Źródło obrazu: Andrej Karpathy Teraz zastanawiam się, jak wyglądałby minimalistyczny fragment kodu dla każdego z nich w Keras. Więc coś w stylu model = Sequential() model.add(LSTM(128, …

108 machine-learning neural-network deep-learning keras recurrent-neural-network

9

Dlaczego wagi sieci neuronowych powinny być inicjalizowane liczbami losowymi? [Zamknięte]

Zamknięte. To pytanie nie spełnia wytycznych dotyczących przepełnienia stosu . Obecnie nie przyjmuje odpowiedzi. Chcesz poprawić to pytanie? Zaktualizuj pytanie, aby było na temat przepełnienia stosu. Zamknięte 5 dni temu . Popraw to pytanie Próbuję zbudować sieć neuronową od podstaw. W całej literaturze dotyczącej sztucznej inteligencji panuje zgoda co do …

105 machine-learning neural-network artificial-intelligence mathematical-optimization gradient-descent

4

wielowarstwowa architektura perceptronu (MLP): kryteria wyboru liczby warstw ukrytych i rozmiaru warstwy ukrytej?

Jeśli mamy 10 wektorów własnych, to możemy mieć 10 węzłów neuronowych w warstwie wejściowej. Jeśli mamy 5 klas wyjściowych, to możemy mieć 5 węzłów w warstwie wyjściowej, ale jakie są kryteria wyboru liczby ukrytych warstw w MLP i ile neuronów węzły w 1 ukrytej warstwie?

104 machine-learning neural-network deep-learning perceptron

6

Ładowanie wytrenowanego modelu Keras i kontynuuj szkolenie

Zastanawiałem się, czy da się zapisać częściowo wytrenowany model Keras i kontynuować trening po ponownym załadowaniu modelu. Powodem tego jest to, że w przyszłości będę miał więcej danych treningowych i nie chcę ponownie trenować całego modelu. Funkcje, których używam to: #Partly train model model.fit(first_training, first_classes, batch_size=32, nb_epoch=20) #Save partly trained …

102 python tensorflow neural-network keras resuming-training

3

Jak połączyć dwie warstwy w Keras?

Mam przykład sieci neuronowej z dwiema warstwami. Pierwsza warstwa przyjmuje dwa argumenty i ma jedno wyjście. Drugi powinien przyjąć jeden argument jako wynik pierwszej warstwy i jeden dodatkowy argument. Powinien wyglądać tak: x1 x2 x3 \ / / y1 / \ / y2 Utworzyłem więc model z dwiema warstwami i …

96 python machine-learning keras neural-network

10

Jak dodać regularyzacje w TensorFlow?

W wielu dostępnych kodach sieci neuronowych zaimplementowanych przy użyciu TensorFlow zauważyłem, że warunki regularyzacyjne są często implementowane przez ręczne dodanie dodatkowego terminu do wartości straty. Moje pytania to: Czy istnieje bardziej elegancki lub zalecany sposób regularyzacji niż robienie tego ręcznie? Uważam też, że get_variablema to argument regularizer. Jak należy tego …

95 python neural-network tensorflow deep-learning

Pytania otagowane jako neural-network