Obliczanie prawdopodobieństwa logarytmicznego dla danego MLE (łańcuchy Markowa)

Obecnie pracuję z łańcuchami Markowa i obliczyłem oszacowanie maksymalnego prawdopodobieństwa przy użyciu prawdopodobieństw przejścia, jak sugeruje kilka źródeł (tj. Liczba przejść od a do b podzielona przez liczbę całkowitych przejść od a do innych węzłów).

Chcę teraz obliczyć logarytmiczne prawdopodobieństwo MLE.

maximum-likelihood markov-process likelihood

— społeczność
źródło

Już obliczyłeś maksymalne prawdopodobieństwo prawdopodobieństwa przejścia, a teraz chcesz obliczyć logarytm prawdopodobieństwa, co dokładnie?

— Nick

Niech będzie ścieżką łańcucha markowa i niech będzie prawdopodobieństwem zaobserwowania ścieżki, gdy jest prawdziwa wartość parametru (znana również jako funkcja prawdopodobieństwa dla ). Używając definicji prawdopodobieństwa warunkowego, wiemy $\{ X_i \}_{i=1}^{T}$ $P_{\theta}(X_1, ..., X_T)$ $\theta$ $\theta$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Ponieważ jest to łańcuch markowa, wiemy, że , więc to upraszcza to do $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

Teraz, jeśli powtórzysz tę samą logikę razy, otrzymasz $T$

P_{θ} (X_{1}, . . ., X_{T}) = \prod_{i = 1}^{T} P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

gdzie należy interpretować jako stan początkowy procesu. Terminy po prawej stronie są tylko elementami macierzy przejścia. Ponieważ żądano prawdopodobieństwa dziennika, ostateczna odpowiedź brzmi: $X_0$

L (θ) = \sum_{i = 1}^{T} \log (P_{θ} (X_{i} | X_{i - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

Jest to prawdopodobieństwo pojedynczego łańcucha markowa - jeśli twój zestaw danych zawiera kilka (niezależnych) łańcuchów markowa, pełne prawdopodobieństwo będzie sumą warunków tego formularza.

— Makro
źródło

Wow, wielkie dzięki za odpowiedź. W tym przypadku to prawdopodobieństwo „przejścia” zaczerpnięte z MLE, prawda?

P_{θ}

$P_{\theta}$

— fsociety

@ph_singer, nie ma za co. to prawdopodobieństwo przejścia ze stanu do , biorąc pod uwagę wartość parametru, . Jeśli nie nałożyłeś żadnej struktury na macierz przejścia (tak to brzmi), to oznacza po prostu wektor prawdopodobieństwa przejścia (a MLE są tylko proporcjami próbki, jak poprawnie wskazałeś w pytaniu), więc tak : będzie tylko próbną proporcją ruchów ze stanu które zakończyły się w stanie .

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

θ

$\theta$

θ

$\theta$

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_{i}$

— Makro

Dzięki jeszcze raz! Jeszcze jedno pytanie: jeśli użyję innego zamówienia (np. K = 2), jak przebiegnie ten proces?

— fsociety

Czy możesz wyjaśnić, co rozumiesz przez „zamówienie”?

— Makro

(+1) OP prawdopodobnie oznacza dla oznaczenia MC drugiego rzędu , tj. W zależności od dwóch poprzednich stanów a nie tylko ostatniego .

k = 2

$k=2$

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$

X_{i - 1}

$X_{i-1}$

— kardynał