Programowanie softmax

22

Jak zaimplementować funkcję Softmax w Pythonie

Z klasy głębokiego uczenia Udacity softmax y_i jest po prostu wykładniczym podzielonym przez sumę wykładniczego całego wektora Y: Gdzie S(y_i)jest funkcja softmax y_ii ejest wykładnicza i jjest nie. kolumn w wektorze wejściowym Y. Próbowałem następujące: import numpy as np def softmax(x): """Compute softmax values for each sets of scores in …

247 python numpy machine-learning logistic-regression softmax

9

Dlaczego warto używać softmax w przeciwieństwie do standardowej normalizacji?

W warstwie wyjściowej sieci neuronowej typowe jest użycie funkcji softmax do przybliżenia rozkładu prawdopodobieństwa: Jest to kosztowne do obliczenia z powodu wykładników. Dlaczego po prostu nie wykonać transformacji Z, aby wszystkie wyniki były dodatnie, a następnie normalizować, dzieląc wszystkie wyniki przez sumę wszystkich wyników?

159 math neural-network softmax

3

Jaka jest różnica między sparse_softmax_cross_entropy_with_logits i softmax_cross_entropy_with_logits?

Niedawno natknąłem się na tf.nn.sparse_softmax_cross_entropy_with_logits i nie mogę zrozumieć, jaka jest różnica w porównaniu do tf.nn.softmax_cross_entropy_with_logits . Czy jedyną różnicą jest to, że wektory szkoleniowe ymuszą być zakodowane na gorąco podczas używania sparse_softmax_cross_entropy_with_logits? Czytając API, nie mogłem znaleźć żadnej innej różnicy w porównaniu z softmax_cross_entropy_with_logits. Ale dlaczego potrzebujemy wtedy dodatkowej …

111 neural-network tensorflow softmax cross-entropy

Pytania otagowane jako softmax