W definicji wspólnie typowych zbiorów (w „Elementach teorii informacji”, rozdz. 7.6, s. 195) używamy
np(xn)=∏ n i = 1 p(xi)
Moje pytanie zasadniczo brzmi: dlaczego entropia empiryczna nie jest gdzie jest rozkładem empirycznym?P ( x )
Jakie są najciekawsze różnice i podobieństwa między tymi dwiema formułami? (pod względem właściwości dzielą się / nie udostępniają).