Mam problem z wyprowadzeniem formuły dywergencji KL przy założeniu dwóch normalnych rozkładów wielowymiarowych. Zrobiłem przypadek jednoznaczny dość łatwo. Minęło jednak sporo czasu, odkąd wziąłem statystyki matematyczne, więc mam problem z rozszerzeniem go na przypadek wielowymiarowy. Jestem pewien, że brakuje mi czegoś prostego.
Oto co mam ...
Załóżmy, że zarówno jak i są plikami pdf normalnych rozkładów odpowiednio ze średnimi i i wariancjami i . Odległość Kullbacka-Leiblera od do wynosi:
, co dla dwóch normalnych zmiennych wielowymiarowych to:
Kierując się tą samą logiką, co ten dowód , zajmę się tym zanim utknę:
Myślę, że muszę wdrożyć trik śledzenia , ale po prostu nie jestem pewien, co robić później. Będziemy wdzięczni za wszelkie pomocne wskazówki, które pozwolą mi wrócić na właściwy tor!