Jak używać wywołania zwrotnego Tensorboard w Keras?

Z Kerasem zbudowałem sieć neuronową. Jego dane wizualizowałbym za pomocą Tensorboard, dlatego wykorzystałem:

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,
                            write_graph=True, write_images=True)

jak wyjaśniono w keras.io . Kiedy uruchamiam wywołanie zwrotne, które otrzymuję <keras.callbacks.TensorBoard at 0x7f9abb3898>, ale nie otrzymuję żadnego pliku w moim folderze „Graph”. Czy jest coś nie tak w sposobie użycia tego wywołania zwrotnego?

keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

Ta linia tworzy obiekt Callback Tensorboard, powinieneś przechwycić ten obiekt i przekazać go fitfunkcji twojego modelu.

tbCallBack = keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)
...
model.fit(...inputs and parameters..., callbacks=[tbCallBack])

W ten sposób przekazałeś funkcję wywołania zwrotnego. Zostanie uruchomiony podczas szkolenia i wygeneruje pliki, których można używać z tensorboard.

Jeśli chcesz zwizualizować pliki utworzone podczas treningu, uruchom w swoim terminalu

tensorboard --logdir path_to_current_dir/Graph 

Mam nadzieję że to pomoże !

Oto jak używasz wywołania zwrotnego TensorBoard :

from keras.callbacks import TensorBoard

tensorboard = TensorBoard(log_dir='./logs', histogram_freq=0,
                          write_graph=True, write_images=False)
# define model
model.fit(X_train, Y_train,
          batch_size=batch_size,
          epochs=nb_epoch,
          validation_data=(X_test, Y_test),
          shuffle=True,
          callbacks=[tensorboard])

Zmiana

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

do

tbCallBack = keras.callbacks.TensorBoard(log_dir='Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

i ustaw swój model

tbCallback.set_model(model)

Uruchom swój terminal

tensorboard  --logdir Graph/

Jeśli pracujesz z biblioteką Keras i chcesz użyć tensorboard do wydrukowania wykresów dokładności i innych zmiennych, poniżej znajdują się kroki, które należy wykonać.

Krok 1: Zainicjuj bibliotekę wywołań zwrotnych keras, aby zaimportować tensorboard za pomocą poniższego polecenia

from keras.callbacks import TensorBoard

krok 2: Dołącz poniższą komendę do swojego programu tuż przed komendą "model.fit ()".

tensor_board = TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)

Uwaga: użyj „./graph”. Wygeneruje folder wykresów w Twoim bieżącym katalogu roboczym, unikaj używania "/ graph".

krok 3: Uwzględnij wywołanie zwrotne Tensorboard w „model.fit ()”. Przykład znajduje się poniżej.

model.fit(X_train,y_train, batch_size=batch_size, epochs=nb_epoch, verbose=1, validation_split=0.2,callbacks=[tensor_board])

krok 4: Uruchom kod i sprawdź, czy folder z wykresami znajduje się w katalogu roboczym. jeśli powyższe kody działają poprawnie, w katalogu roboczym będziesz mieć folder „Graph”.

krok 5: Otwórz Terminal w katalogu roboczym i wpisz poniższe polecenie.

tensorboard --logdir ./Graph

Krok 6: Teraz otwórz przeglądarkę internetową i wprowadź poniższy adres.

http://localhost:6006

Po wejściu otworzy się strona Tensorbaord, na której możesz zobaczyć wykresy różnych zmiennych.

Oto kod:

K.set_learning_phase(1)
K.set_image_data_format('channels_last')

tb_callback = keras.callbacks.TensorBoard(
    log_dir=log_path,
    histogram_freq=2,
    write_graph=True
)
tb_callback.set_model(model)
callbacks = []
callbacks.append(tb_callback)

# Train net:
history = model.fit(
    [x_train],
    [y_train, y_train_c],
    batch_size=int(hype_space['batch_size']),
    epochs=EPOCHS,
    shuffle=True,
    verbose=1,
    callbacks=callbacks,
    validation_data=([x_test], [y_test, y_test_coarse])
).history

# Test net:
K.set_learning_phase(0)
score = model.evaluate([x_test], [y_test, y_test_coarse], verbose=0)

Zasadniczo histogram_freq=2jest to najważniejszy parametr do dostrojenia podczas wywoływania tego wywołania zwrotnego: ustawia interwał epok do wywołania wywołania zwrotnego, aby wygenerować mniej plików na dyskach.

Oto przykładowa wizualizacja ewolucji wartości ostatniego splotu w trakcie treningu, raz widziana w TensorBoard, w zakładce „histogramy” (i znalazłem zakładkę „rozkłady” zawierającą bardzo podobne wykresy, ale odwrócone z boku):

Jeśli chcesz zobaczyć pełny przykład w kontekście, możesz odnieść się do tego projektu open source: https://github.com/Vooban/Hyperopt-Keras-CNN-CIFAR-100

Jeśli używasz google-colab, prosta wizualizacja wykresu wyglądałaby tak:

import tensorboardcolab as tb

tbc = tb.TensorBoardColab()
tensorboard = tb.TensorBoardColabCallback(tbc)


history = model.fit(x_train,# Features
                    y_train, # Target vector
                    batch_size=batch_size, # Number of observations per batch
                    epochs=epochs, # Number of epochs
                    callbacks=[early_stopping, tensorboard], # Early stopping
                    verbose=1, # Print description after each epoch
                    validation_split=0.2, #used for validation set every each epoch
                    validation_data=(x_test, y_test)) # Test data-set to evaluate the model in the end of training

Napisałeś log_dir='/Graph'czy miałeś na myśli ./Graphzamiast tego? Wysłałeś to /home/user/Graphw tej chwili do.

Powinieneś sprawdzić Losswise ( https://losswise.com ), ma wtyczkę do Keras, która jest łatwiejsza w użyciu niż Tensorboard i ma kilka fajnych dodatkowych funkcji. Z Losswise po prostu użyjesz, from losswise.libs import LosswiseKerasCallbacka potem callback = LosswiseKerasCallback(tag='my fancy convnet 1')i jesteś gotowy (patrz https://docs.losswise.com/#keras-plugin ).

Jest kilka rzeczy.

Po pierwsze, /Graphale./Graph

Po drugie, kiedy używasz wywołania zwrotnego TensorBoard, zawsze przekazuj dane walidacyjne, ponieważ bez tego nie uruchomiłoby się.

Po trzecie, jeśli chcesz używać czegokolwiek poza podsumowaniami skalarnymi, powinieneś używać tylko tej fitmetody, ponieważ fit_generatornie zadziała. Lub możesz przepisać wywołanie zwrotne do pracy fit_generator.

Aby dodać wywołania zwrotne, po prostu dodaj je do model.fit(..., callbacks=your_list_of_callbacks)

Utwórz wywołanie zwrotne Tensorboard:

from keras.callbacks import TensorBoard
from datetime import datetime
logDir = "./Graph/" + datetime.now().strftime("%Y%m%d-%H%M%S") + "/"
tb = TensorBoard(log_dir=logDir, histogram_freq=2, write_graph=True, write_images=True, write_grads=True)

Przekaż wywołanie zwrotne Tensorboard do połączenia fit:

history = model.fit(X_train, y_train, epochs=200, callbacks=[tb])

Jeśli podczas uruchamiania modelu zostanie wyświetlony błąd Keras o wartości

„Musisz podać wartość zastępczego tensora”

spróbuj zresetować sesję Keras przed utworzeniem modelu, wykonując:

import keras.backend as K
K.clear_session()