Jak modelować monetę z tendencją do zmian w czasie?

Modele monet tendencyjnych mają zwykle jeden parametr . Jednym ze sposobów oszacowania z serii losowań jest użycie wcześniejszej wersji beta i obliczenie rozkładu tylnej z prawdopodobieństwem dwumianowym. $\theta = P(\text{Head} | \theta)$ $\theta$

W moich ustawieniach, z powodu jakiegoś dziwnego procesu fizycznego, moje właściwości monety powoli się zmieniają i staje się funkcją czasu . Moje dane to zestaw uporządkowanych losowań, tj. . Mogę wziąć pod uwagę, że mam tylko jedno losowanie dla każdego na dyskretnej i regularnej siatce czasu. $\theta$ $t$ $\{H,T,H,H,H,T,...\}$ $t$

Jak byś to wymodelował? Myślę o czymś takim jak filtr Kalmana dostosowany do faktu, że ukryta zmienna to i zachowuje prawdopodobieństwo dwumianowe. Czego mógłbym użyć do modelowania aby utrzymać możliwość wnioskowania? $\theta$ $P(\theta(t+1)|\theta(t))$

Edytuj następujące odpowiedzi (dzięki!) : Chciałbym modelować jako łańcuch Markowa rzędu 1, tak jak w filtrach HMM lub Kalmana. Mogę jedynie założyć, że jest płynne. Mógłbym napisać z małym szumem gaussowskim (pomysł na filtr Kalmana), ale to złamałoby wymaganie, że musi pozostać w . Zgodnie z pomysłem @J Dav, mogłem użyć funkcji probit do mapowania linii rzeczywistej na , ale mam intuicję, że dałoby to rozwiązanie nieanalityczne. Rozkład beta ze średnią $\theta(t)$ $\theta(t)$ $P(\theta(t+1)|\theta(t)) = \theta(t) + \epsilon$ $\epsilon$ $\theta$ $[0,1]$ $[0,1]$ $\theta(t)$ i większa wariancja może załatwić sprawę.

Zadaję to pytanie, ponieważ mam wrażenie, że ten problem jest tak prosty, że trzeba go było wcześniej zbadać.

time-series bayesian kalman-filter

— odparł2
źródło

Możesz uzyskać oszacowanie, jeśli masz model, w jaki sposób proporcja sukcesu zmienia się z czasem. Działałoby wiele różnych modeli, a szacunki mogą się znacznie różnić w zależności od przyjętego modelu. Nie sądzę, aby wykonalność była praktycznym kryterium wyboru modelu. Chciałbym zrozumieć proces i poszukać modelu, który wykazuje cechy charakterystyczne, które są zgodne z oczekiwanym zachowaniem.

— Michael R. Chernick

@MichaelChernick: Dzięki. Mogę jedynie założyć, że porusza się płynnie i powoli. Co więcej, łatwość obsługi jest ważnym kryterium, ponieważ tak naprawdę chcę rozszerzyć rozwiązanie na przypadek wielowymiarowy z nietrywialnymi zależnościami. Idealne rozwiązanie byłoby analityczne i dawałoby „online” aktualizację oszacowań parametrów, gdy pojawiają się nowe dane.

θ

$\theta$

— odpowiedział2 2

Czy potrafisz określić ilościowo, co masz na myśli „ porusza się płynnie i powoli?” Liczby całkowite są dyskretne i istnieją funkcje gładkie, które przyjmują dowolne wartości na liczbach całkowitych, co oznacza, że gładkość nie daje żadnych ograniczeń. Niektóre pojęcia „powoli” nadal nie nakładają żadnych ograniczeń, podczas gdy inne tak.

θ

$\theta$

— Douglas Zare

Jak szybki jest „powoli”, jak zmiana prawdopodobieństwa 0,1 / jednostkę czasu lub 0,001 lub ... I jak długo oczekiwana jest sekwencja? Czy zakres jest stosunkowo wąski (np. 0,2–0,4), czy zbliża się do (0,1)?

— łucznik

@DouglasZare Przez „gładki” chciałem stwierdzić, że E [θ_t + 1 | θ_t] = θ_t (lub bardzo blisko) i VAR (θ_t + 1 | θ_t) jest mały. θ nie skacze (w przeciwnym razie nic nie da się zrobić).

— odpowiedział2 2

Odpowiedzi:

Wątpię, czy możesz wymyślić model z rozwiązaniem analitycznym, ale wnioskowanie można nadal uczynić możliwym do przyjęcia przy użyciu odpowiednich narzędzi, ponieważ struktura zależności twojego modelu jest prosta. Jako badacz uczenia maszynowego wolałbym używać następującego modelu, ponieważ wnioskowanie można uczynić całkiem wydajnym przy użyciu techniki propagacji oczekiwań:

Niech będzie wynikiem tej próby. Zdefiniujmy parametr zmieniający się w czasie $X(t)$ $t$

$\eta(t+1) \sim \mathcal{N}(\eta(t), \tau^2)$ dla . $t \geq 0$

Aby połączyć z , wprowadź zmienne ukryte $\eta(t)$ $X(t)$

$Y(t) \sim \mathcal{N}(\eta(t), \beta^2)$ ,

i model za $X(t)$

$X(t) = 1$ jeśli , a przeciwnym razie. Możesz faktycznie zignorować i zmarginalizować je, aby powiedzieć , (z cdf z standard normal), ale wprowadzenie ukrytych zmiennych ułatwia wnioskowanie. Zauważ też, że w oryginalnej parametryzacji . $Y(t) \geq 0$ $X(t) = 0$ $Y(t)$ $\mathbb{P}[X(t)=1] = \Phi(\eta(t)/\beta)$ $\Phi$ $\theta(t) = \eta(t)/\beta$

Jeśli jesteś zainteresowany implementacją algorytmu wnioskowania, spójrz na ten artykuł . Używają bardzo podobnego modelu, dzięki czemu można łatwo dostosować algorytm. Aby zrozumieć EP, poniższa strona może okazać się przydatna. Jeśli jesteś zainteresowany stosowaniem tego podejścia, daj mi znać; Mogę udzielić bardziej szczegółowych porad dotyczących implementacji algorytmu wnioskowania.

— d_ijk_stra
źródło

Aby rozwinąć mój komentarz, model taki jak p (t) = p exp (-t) jest modelem, który jest prosty i umożliwia oszacowanie p (t) poprzez oszacowanie p przy użyciu oszacowania maksymalnego prawdopodobieństwa. Ale czy prawdopodobieństwo naprawdę maleje wykładniczo. Ten model byłby wyraźnie błędny, jeśli obserwujesz okresy z dużą częstotliwością sukcesu, niż zaobserwowałeś wcześniej i później. Zachowanie oscylacyjne można modelować jako p (t) = p | sint |. Oba modele są bardzo łatwe w obsłudze i można je rozwiązać przy maksymalnym prawdopodobieństwie, ale dają bardzo różne rozwiązania. $_0$ $_0$ $_0$

— Michael R. Chernick
źródło

Wygląda na to, że OP szuka modelu prawdopodobieństwa sukcesu w czasie , , jako procesu markowskiego, a nie określa jakiejś funkcjonalnej formy dla .

t

$t$

θ (t)

$\theta(t)$

θ (t)

$\theta(t)$

— Makro

@macro ma rację, nie jestem w stanie podać postaci parametrycznej dla , i nie jest to pożądane, ponieważ ta funkcja może być cokolwiek gładka. Chcę model Markowa rzędu 1 podobny do Ukrytego modelu Markowa lub filtr Kalmana, ale z ukrytą zmienną, która przyjmuje rzeczywiste wartości od 0 do 1, i z prawdopodobieństwem Bernouilli.

t h e t a (t)

$theta(t)$

— odpowiedział2 2

@pierre Okay przed edycją wydawało się, że chciałeś oszacować zmienny czas p i sugerowałeś tylko HMM jako możliwe podejście. Nie polecałem funkcjonalnej formy, ponieważ zmienia się ona wraz z t. Zwracałem uwagę, że bez dalszych informacji można by skonstruować wiele modeli różnych typów, a moje dwa przykłady miały pokazać, że bez dalszych informacji wybory modeli mogą dać bardzo różne odpowiedzi. Dlaczego miałbyś nalegać na HMM? Jeśli ktoś działał i pasował do twoich danych, odrzuć je, ponieważ jest to „nieanalityczne.”

— Michael R. Chernick

Sugeruję, że znalezienie dogodnych rozwiązań nie jest sposobem na rozwiązanie praktycznych problemów statystycznych!

— Michael R. Chernick

@MichaelChernick Wreszcie: Chciałbym znaleźć rozwiązanie analityczne, ponieważ mam nadzieję, że jest to dobrze znany problem i ludzie zaproponowali wystarczająco elastyczne rozwiązanie analityczne. Zgadzam się jednak z naszą sugestią, że modelowanie „rzeczywistej dynamiki” jest ważniejsze niż ogólnie koszt obliczeniowy. Niestety dotyczy to dużych

— zbiorów

$t$ $p$

$p=\Phi(g(t,\theta))$ $g(t,\theta)$ $\Phi$

$\Phi$ $g()$ $g()$

Aby odpowiedzieć na ponownie edytowane pytanie:

Jak powiedziałeś, użycie probit oznaczałoby tylko rozwiązania numeryczne, ale zamiast tego możesz użyć funkcji logistycznej:

$P[\theta(t+1)] = \frac{1}{1+\exp{(\theta(t)+\epsilon)}}$

$\log{\frac{P}{1-P}} = \theta(t)+\epsilon$

$\theta(t+1)=a t^3 +bt^2+ct + d$ $\epsilon$ $\epsilon$

$P[Coin_{t+1}=H | t] = \frac{1}{1+\exp{(\theta(t))}}$

$\epsilon$ $t$

— JDav
źródło

Jeśli używasz probit, rozszerzenie wielowymiarowe jest proste, ponieważ można oszacować probit wielowymiarowy. Zależności wynikałyby z macierzy kowariancji implikowanego wielowymiarowego rozkładu normalnego.

— JDav