Konwergencja z algorytmu EM z dwuwymiarowym rozkładem mieszanin

Mam model mieszanki, w którym chcę znaleźć estymator maksymalnego prawdopodobieństwa dla danego zestawu danych i zestawu częściowo zaobserwowanych danych . I realizowane zarówno E etapie (obliczenie oczekiwania dane i aktualnych parametrów ), i M-etapie, w celu zminimalizowania negatywnych log-Likelihood względu na spodziewany . $x$ $z$ $z$ $x$ $\theta^k$ $z$

Jak rozumiem, maksymalne prawdopodobieństwo wzrasta z każdą iteracją, co oznacza, że ujemne prawdopodobieństwo log musi maleć przy każdej iteracji? Jednak, jak to powtarzam, algorytm tak naprawdę nie generuje malejących wartości ujemnego prawdopodobieństwa log. Zamiast tego może się zmniejszać i zwiększać. Na przykład były to wartości ujemnego prawdopodobieństwa logarytmicznego do momentu konwergencji:

wprowadź opis zdjęcia tutaj

Czy jest tu coś, co źle zrozumiałem?

Ponadto w przypadku danych symulowanych, gdy wykonuję maksymalne prawdopodobieństwo dla prawdziwych ukrytych (nieobserwowanych) zmiennych, mam prawie idealne dopasowanie, co wskazuje na brak błędów programistycznych. W przypadku algorytmu EM często zbiega się on z wyraźnie nieoptymalnymi rozwiązaniami, szczególnie dla określonego podzbioru parametrów (tj. Proporcji zmiennych klasyfikujących). Dobrze wiadomo, że algorytm może zbiegać się do lokalnych minimów lub punktów stacjonarnych, czy istnieje konwencjonalna heurystyka wyszukiwania lub podobnie w celu zwiększenia prawdopodobieństwa znalezienia globalnego minimum (lub maksimum) . Wydaje mi się, że w przypadku tego konkretnego problemu istnieje wiele brakujących klasyfikacji, ponieważ w przypadku dwuwymiarowej mieszanki jeden z dwóch rozkładów przyjmuje wartości z prawdopodobieństwem jeden (jest to mieszanka okresów życia, w których prawdziwy czas życia znajduje się na podstawie $T=z T_0 + (1-z)\infty$ gdzie oznacza przynależność do dowolnego rozkładu. Wskaźnik jest oczywiście cenzurowany w zbiorze danych. $z$ $z$ wprowadź opis zdjęcia tutaj

Dodałem drugą liczbę, gdy zaczynam od rozwiązania teoretycznego (które powinno być bliskie optymalnemu). Jednak, jak można zauważyć, prawdopodobieństwo i parametry różnią się od tego rozwiązania na takie, które jest wyraźnie gorsze.

edycja: pełne dane są w postaci gdzie jest obserwowanym czasem dla podmiotu , wskazuje, czy czas jest powiązany z faktycznym zdarzeniem lub jeśli jest poprawnie ocenzurowany (1 oznacza zdarzenie, a 0 oznacza prawą cenzurę), jest czasem obcięcia obserwacji (ewentualnie 0) ze wskaźnikiem obcięcia a na koniec jest wskaźnikiem, do którego populacji należy obserwacja (ponieważ jego dwuwymiarowy musimy wziąć pod uwagę tylko 0 i 1). $\mathbf{x_i}=(t_i,\delta_i,L_i,\tau_i,z_i)$ $t_i$ $i$ $\delta_i$ $L_i$ $\tau_i$ $z_i$

Dla mamy funkcję gęstości , podobnie jest to związane z funkcją rozkładu ogona . Dla zdarzenie będące przedmiotem zainteresowania nie wystąpi. Chociaż z tym rozkładem nie ma żadnego , definiujemy go jako , a więc i . Daje to również następujący pełny rozkład mieszaniny: $z=1$ $f_z(t)=f(t|z=1)$ $S_z(t)=S(t|z=1)$ $z=0$ $t$ $\inf$ $f(t|z=0)=0$ $S(t|z=0)=1$

$f(t) = \sum_{i=0}^{1}p_if(t|z=i) = pf(t|z=1)$ i $S(t) = 1 - p + pS_z(t)$

Kontynuujemy definiowanie ogólnej formy prawdopodobieństwa:

$L(\theta;\mathbf{x_i}) = \Pi_i \frac{f(t_i;\theta)^{\delta_i}S(t_i;\theta)^{1-\delta_i}}{S(L_i)^{\tau_i}}$

Teraz obserwuje się tylko częściowo, gdy , w przeciwnym razie nie jest to znane. Staje się pełne prawdopodobieństwo $z$ $\delta=1$

$L(\theta,p;\mathbf{x_i}) = \Pi_i \frac{\big((p f_z(t_i;\theta))^{z_i}\big)^{\delta_i}\big((1-p)^{(1-z_i)}(p S_z(t_i;\theta))^{z_i}\big)^{1-\delta_i}}{\big((1-p)^{(1-z_i)}(p S_z(L_i;\theta))^{z_i}\big)^{\tau_i}}$

gdzie jest wagą odpowiedniego rozkładu (ewentualnie związanego z niektórymi zmiennymi towarzyszącymi i ich odpowiednimi współczynnikami przez jakąś funkcję link). W większości literatur jest to uproszczone do następującego prawdopodobieństwa logicznego $p$

$\sum \Big( z_i \ln(p) + (1-p) \ln(1-p) - \tau_i\big(z_i \ln(p) + (1-z_i)\ln(1-p)\big) + \delta_i z_i f_z(t_i;\theta) + (1-\delta_i) z_i S_z(t_i;\theta) - \tau_i S_z(L_i;\theta)\Big)$

Dla kroku M funkcja ta jest zmaksymalizowana, chociaż nie w całości w 1 metodzie maksymalizacji. Zamiast tego nie możemy tego podzielić na części . $l(\theta,p; \cdot) = l_1(\theta,\cdot) + l_2(p,\cdot)$

Dla kroku k: th + 1 musimy znaleźć oczekiwaną wartość (częściowo) nieobserwowanych zmiennych ukrytych . Korzystamy z faktu, że dla , a następnie . $z_i$ $\delta=1$ $z=1$

$E(z_i|\mathbf{x_i},\theta^{(k)},p^{(k)}) = \delta_i + (1-\delta_i) P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})$

Oto, przez $P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i}) =\frac{P(\mathbf{x_i};\theta^{(k)},p^{(k)}|z_i=1)P(z_i=1;\theta^{(k)},p^{(k)})}{P(\mathbf{x_i};\theta^{(k)},p^{(k)})}$

co daje nam $P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})=\frac{pS_z(t_i;\theta^{(k)})}{1 - p + pS_z(t_i;\theta^{(k)})}$

(Zauważ tutaj, że , więc nie ma obserwowanego zdarzenia, dlatego prawdopodobieństwo danych jest określone przez funkcję rozkładu ogona. $\delta_i=0$ $\mathbf{x_i}$

maximum-likelihood mixture expectation-maximization

— Dobry facet Mike
źródło

Czy mógłbyś od początku zapisać zmienne naszego problemu oraz swoje równania E i M?

— alberto

Oczywiście zredagowałem pytanie, podając więcej szczegółów dotyczących kroku E i M

— Good Guy Mike

Aby wyjaśnić, przedstawione wartości są pełnym MLE, biorąc pod uwagę szacunkowe wartości niekompletnych danych.

— Dobry facet Mike

Co to jest ? Nie rozumiem „chociaż nie ma żadnego związku z tym rozkładem, definiujemy go jako inf…”.

S_{z}

$S_z$

— wij

Algorytm EM bezpośrednio maksymalizuje oczekiwane prawdopodobieństwo danych kompletnych, ale może zagwarantować wzrost prawdopodobieństwa danych obserwowanych. Czy sprawdzasz wzrost prawdopodobieństwa zaobserwowanych danych?

— Randel

Celem EM jest maksymalne zaobserwowane prawdopodobieństwo dziennika danych,

l (θ) = \sum_{i} \ln [\sum_{z} p (x_{i}, z | θ)]

$l(\theta) = \sum_i \ln \left[ \sum_{z} p(x_i, z| \theta) \right]$

Niestety jest to trudne do optymalizacji w odniesieniu do . Zamiast tego EM wielokrotnie tworzy i maksymalizuje funkcję pomocniczą $\theta$

Q (θ, θ^{t}) = E_{z | θ^{t}} (\sum_{i} \ln p (x_{i}, z_{i} | θ))

$Q(\theta , \theta^t) = \mathbb{E}_{z|\theta^t} \left (\sum_i \ln p(x_i, z_i| \theta) \right)$

Jeśli maksymalizuje , EM to gwarantuje $\theta^{t+1}$ $Q(\theta, \theta^t)$

l (θ^{t + 1}) \geq Q (θ^{t + 1}, θ^{t}) \geq Q (θ^{t}, θ^{t}) = l (θ^{t})

$l(\theta^{t+1}) \geq Q(\theta^{t+1}, \theta^t) \geq Q(\theta^t, \theta^t) = l(\theta^t)$

Jeśli chcesz dokładnie wiedzieć, dlaczego tak się dzieje, rozdział 11.4.7 Uczenia maszynowego Murphy'ego : perspektywa probabilistyczna daje dobre wytłumaczenie. Jeśli twoja implementacja nie zaspokoi tych nierówności, gdzieś popełniłeś błąd. Mówiąc rzeczy takie jak

Mam prawie idealne dopasowanie, co wskazuje na brak błędów programistycznych

jest niebezpieczny. Dzięki wielu algorytmom optymalizacji i uczenia się bardzo łatwo jest popełniać błędy, ale przez większość czasu nadal uzyskuje się poprawnie wyglądające odpowiedzi. Intuicja, którą lubię, polega na tym, że te algorytmy są przeznaczone do radzenia sobie z niechlujnymi danymi, więc nic dziwnego, że dobrze radzą sobie również z błędami!

W drugiej połowie twojego pytania

czy istnieje konwencjonalna heurystyka wyszukiwania lub podobnie, aby zwiększyć prawdopodobieństwo znalezienia globalnego minimum (lub maksimum)

Losowe ponowne uruchomienie jest najłatwiejszym podejściem; kolejnym najłatwiejszym jest prawdopodobnie symulowane wyżarzanie nad parametrami początkowymi. Słyszałem także o wariancie EM zwanym wyżarzaniem deterministycznym , ale nie użyłem go osobiście, więc nie mogę ci o nim wiele powiedzieć.

— Andy Jones
źródło

Dobra odpowiedź (+1). Byłoby jeszcze lepiej, gdybyś załączył formalne odniesienia (w szczególności odniesienie do częściowo cytowanego źródła „Uczenie maszynowe: perspektywa probabilistyczna”).

— Aleksandr Blekh

Dziękuję bardzo za odpowiedź. Przekonałem się, że algorytm jest teraz właściwie zbieżny po naprawieniu błędu w kodzie, ale tylko wtedy, gdy wykluczę moje obcięte dane. W przeciwnym razie szaleje. Uważam, że jest to wynikiem niektórych błędów.

— Dobry facet Mike

W rzeczywistości problem polega na tym, że mam do czynienia z „heterogenicznym obcięciem”, tj. Istnieje indywidualny punkt obcięcia dla każdej obserwacji, a nie jednomyślny próg obcięcia dla wszystkich obserwacji. Nigdy nie spotkałem lub nie mogę znaleźć tych ustawień w literaturze, więc nie mogę zweryfikować, czy rozwiązuję je poprawnie. Jeśli przypadkiem zobaczyłbyś to ustawienie, chciałbym rzucić okiem na te referencje!

L_{i}

$L_i$

— Dobry facet Mike