Pytania otagowane jako deep-learning

Jaka jest różnica między epoką a iteracją podczas treningu perceptronu wielowarstwowego?

413 machine-learning  neural-network  deep-learning  artificial-intelligence  terminology 

Próbuję pogodzić moje rozumienie LSTM i wskazałem tutaj w tym poście Christophera Olaha zaimplementowanego w Keras. Śledzę ten blog napisany przez Jason Brownlee za tutorial Keras. Głównie jestem zdezorientowany: Przekształcenie serii danych w [samples, time steps, features]i, Stanowe LSTM Skoncentrujmy się na dwóch powyższych pytaniach w odniesieniu do kodu wklejonego …

311 python  deep-learning  keras  lstm 

Jaka jest różnica między „sam” i „skuteczne” w wyściółką tf.nn.max_poolz tensorflow? Moim zdaniem „WAŻNE” oznacza, że ​​nie będzie zerowania na krawędziach, gdy wykonamy maksymalną pulę. Według Przewodnika po arytmetyki splotowej dla głębokiego uczenia się , mówi, że operator puli nie będzie wypełniał, tj. Po prostu użyje „WAŻNE” z tensorflow. Ale …

309 python  tensorflow  deep-learning 

Dla każdej warstwy Keras ( Layerklasy), może ktoś wyjaśnić jak należy rozumieć różnicę między input_shape, units, dim, itd.? Na przykład dokument mówi, że unitsokreśl wyjściowy kształt warstwy. Na zdjęciu sieci neuronowej poniżej hidden layer1ma 4 jednostki. Czy to bezpośrednio przekłada się na unitsatrybut Layerobiektu? Czy unitsw Keras jest równy kształtowi …

261 neural-network  deep-learning  keras  keras-layer  tensor 

W poniższej funkcji TensorFlow musimy zasilać aktywację sztucznych neuronów w końcowej warstwie. Że rozumiem Ale nie rozumiem, dlaczego nazywa się to logitami? Czy to nie jest funkcja matematyczna? loss_function = tf.nn.softmax_cross_entropy_with_logits( logits = last_layer, labels = target_output )

250 tensorflow  machine-learning  neural-network  deep-learning  cross-entropy 

Kiedy trenowałem moją sieć neuronową za pomocą Theano lub Tensorflow, będą zgłaszać zmienną o nazwie „utrata” na epokę. Jak mam interpretować tę zmienną? Wyższa strata jest lepsza lub gorsza, lub co to oznacza dla ostatecznego działania (dokładności) mojej sieci neuronowej?

201 machine-learning  neural-network  mathematical-optimization  deep-learning  objective-function 

Szukałem alternatywnych sposobów zapisania wytrenowanego modelu w PyTorch. Jak dotąd znalazłem dwie alternatywy. torch.save (), aby zapisać model i torch.load (), aby załadować model. model.state_dict (), aby zapisać wytrenowany model i model.load_state_dict (), aby załadować zapisany model. Natknąłem się na tę dyskusję, w której podejście 2 jest zalecane zamiast podejścia …

193 python  serialization  deep-learning  pytorch  tensor 

Próbuję wytresować CNN do kategoryzowania tekstu według tematu. Kiedy używam binarnej entropii krzyżowej, uzyskuję ~ 80% dokładności, przy kategorycznej entropii krzyżowej uzyskuję ~ 50% dokładności. Nie rozumiem, dlaczego tak jest. Jest to problem wieloklasowy, czy nie oznacza to, że muszę używać kategorycznej entropii krzyżowej i że wyniki z binarną entropią …

160 machine-learning  keras  neural-network  deep-learning  conv-neural-network 

tf.nn.embedding_lookup(params, ids, partition_strategy='mod', name=None) Nie rozumiem obowiązku tej funkcji. Czy to jest jak tabela przeglądowa? Co oznacza zwrócenie parametrów odpowiadających każdemu identyfikatorowi (w identyfikatorach)? Na przykład w skip-grammodelu, jeśli używamy tf.nn.embedding_lookup(embeddings, train_inputs), to dla każdego train_inputznajduje odpowiednie osadzenie?

158 python  tensorflow  deep-learning  word-embedding  natural-language-processing 

Wyszkoliłem binarny model klasyfikacji w CNN, a oto mój kod model = Sequential() model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1], border_mode='valid', input_shape=input_shape)) model.add(Activation('relu')) model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(MaxPooling2D(pool_size=pool_size)) # (16, 16, 32) model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1])) model.add(Activation('relu')) model.add(MaxPooling2D(pool_size=pool_size)) # (8, 8, 64) = (2048) model.add(Flatten()) model.add(Dense(1024)) model.add(Activation('relu')) model.add(Dropout(0.5)) model.add(Dense(2)) # define …

155 python  tensorflow  deep-learning  keras 

Czytałem kilka rzeczy na temat sieci neuronowych i rozumiem ogólną zasadę jednowarstwowej sieci neuronowej. Rozumiem potrzebę dodatkowych warstw, ale dlaczego są używane nieliniowe funkcje aktywacji? Po tym pytaniu następuje pytanie: Do czego służy pochodna funkcji aktywacji wykorzystywanej w propagacji wstecznej?

139 math  machine-learning  neural-network  deep-learning 

Czy ktoś mógłby jasno wyjaśnić na przykładach różnicę między konwolucjami 1D, 2D i 3D w konwolucyjnych sieciach neuronowych (w uczeniu głębokim)?

127 machine-learning  deep-learning  signal-processing  conv-neural-network  convolution 

Metodę zero_grad()należy wywołać podczas treningu. Ale dokumentacja nie jest zbyt pomocna | zero_grad(self) | Sets gradients of all model parameters to zero. Dlaczego musimy wywołać tę metodę?

126 python  neural-network  deep-learning  pytorch  gradient-descent 

Jak zainicjować wagi i odchylenia (na przykład z inicjalizacją He lub Xavier) w sieci w PyTorch?

119 python  neural-network  deep-learning  pytorch 

Próbuję zrozumieć rolę tej Flattenfunkcji w Keras. Poniżej znajduje się mój kod, który jest prostą siecią dwuwarstwową. Pobiera dwuwymiarowe dane kształtu (3, 2) i generuje jednowymiarowe dane kształtu (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', optimizer='SGD') x = np.array([[[1, 2], [3, 4], [5, 6]]]) y …

109 machine-learning  tensorflow  neural-network  deep-learning  keras