2
Dlaczego entropia krzyżowa stała się klasyczną funkcją straty, a nie rozbieżnością Kullbecka Leiblera?
Entropia krzyżowa jest identyczna z dywergencją KL plus entropia rozkładu celu. KL równa się zero, gdy dwa rozkłady są takie same, co wydaje mi się bardziej intuicyjne niż entropia rozkładu docelowego, czyli taka, jaką entropia krzyżowa znajduje się w meczu. Nie twierdzę, że w jednej z nich jest więcej informacji, …