Zaloguj prawdopodobieństwo a iloczyn prawdopodobieństwa

Zgodnie z tym artykułem wikipedii można przedstawić iloczyn prawdopodobieństwa x⋅yjako -log(x) - log(y)uczynienie obliczeń bardziej optymalnymi obliczeniowo. Ale jeśli spróbuję podać przykład, powiedz:

p1 = 0.5
p2 = 0.5
p1 * p2 = 0.25
-log(p1) - log(p2) = 2

p3 = 0.1
p4 = 0.1
p3 * p4 = 0.01
-log(p3) - log(p4) = 6.64

Iloczyn prawdopodobieństw p1i p2jest wyższy niż p3i p4, ale prawdopodobieństwo logarytmiczne jest niższe.

Dlaczego?

probability logarithm arithmetic

— klucz kosmiczny
źródło

Co jest nie tak? Mniejsze prawdopodobieństwo będzie dawać większe wartości, BO

zwiększa się od

, gdy

jak

- \log p

$-\log p$

0

$0$

p = 1

$p=1$

\infty

$\infty$

p \to 0

$p \to 0$

— Dilip Sarwate

(+1) Dlaczego głosować negatywnie? Myślę, że jest to dobrze napisane pytanie na ten temat, choć bardzo elementarne.

— Juho Kokkala

@DilipSarwate mój problem nie dotyczy matematyki, ale tego konkretnego sposobu przedstawiania prawdopodobieństw. Może to tylko kwestia wygody.

— spacemonkey

Obawiam się, że źle zrozumiałeś, co zamierza ten artykuł. Nie jest to żadną niespodzianką, ponieważ jest niejasno napisane. Działają się dwie różne rzeczy.

Pierwszym z nich jest po prostu praca w skali dziennika.

Oznacza to, że zamiast „ ” (gdy masz niezależność), zamiast tego można napisać „ ”. Jeśli potrzebujesz rzeczywistego prawdopodobieństwa, możesz potęgować na końcu, aby odzyskać : $p_{AB} = p_A\cdot p_B$ $\log(p_{AB}) = \log(p_A)+ \log(p_B)$ $p_{AB}$ $\qquad p_{AB}=e^{\log(p_A)+ \log(p_B)}\,,$ ale jeśli zajdzie taka potrzeba, potęgowanie zwykle pozostawia się do ostatniego możliwego kroku. Jak na razie dobrze.

Druga część jest zastąpienie z . Dzieje się tak, dlatego pracujemy z wartościami dodatnimi. $\log p$ $-\log p$

Osobiście nie widzę w tym wiele wartości, zwłaszcza, że odwraca kierunek dowolnego uporządkowania ( rośnie monotonicznie, więc jeśli , to ; to kolejność jest odwrócona za pomocą ). $\log$ $p_1<p_2$ $\log(p_A)< \log(p_2)$ $-\log p$

$\log p$

$s_i = -\log(p_i)$ $s$ $p_{AB}=e^{-[s_A+ s_B]}\,.$ As you see, that reverses direction a second time, giving us back what we need.

— Glen_b -Reinstate Monica
źródło

+1 "Think of negative log probability as a scale of "rarity" - the larger the number, the rarer the event is"

— Zhubarb