Tłumaczenie problemu uczenia maszynowego na ramy regresji

Załóżmy, że mam panel zmiennych objaśniających , dla , , a także wektor zmiennych zależnych od wyniku binarnego . Zatem obserwuje się tylko w czasie końcowym a nie w żadnym wcześniejszym czasie. Całkowicie ogólnym przypadkiem jest wielokrotność dla dla każdej jednostki w każdym czasie , ale skupmy się na przypadku dla zwięzłości. $X_{it}$ $i = 1 ... N$ $t = 1 ... T$ $Y_{iT}$ $Y$ $T$ $X_{ijt}$ $j=1...K$ $i$ $t$ $K=1$

Zastosowaniami takich „niezrównoważonych” par z tymczasowymi zmiennymi objaśniającymi są np. (Dzienne ceny akcji, dywidendy kwartalne), (dzienne prognozy pogody, coroczne huragany) lub (cechy pozycji szachowej po każdym ruchu, wynik wygranej / przegranej w koniec gry). $(X, Y)$

Jestem zainteresowany w (ewentualnie nieliniowej) współczynników regresji za to prognozy z , wiedząc, że w danych treningowych, biorąc pod uwagę wcześniejsze obserwacje dla , prowadzi do ostatecznego wyniku $\beta_t$ $Y_{it}$ $X_{it}$ $t < T$ $Y_{iT}$

$\hat{Y}_{it} = f(\sum_{k=1}^{t} X_{ik} \beta_k), \quad t = 1 ... T$

Pochodząc z tła ekonometrycznego, nie widziałem wielu modeli regresji zastosowanych do takich danych. OTOH, widziałem następujące techniki uczenia maszynowego stosowane do takich danych:

robi nadzorowanego uczenia się na całego zestawu danych, np minimalizacja

$\sum_{i,t}\frac{1}{2}(Y_{it} - f(X_{it} \beta_t))^2$

po prostu ekstrapolując / przypisując obserwowane do wszystkich poprzednich punktów w czasie $Y$

$Y_{it} \equiv Y_{iT}, \quad t = 1... T-1$

Wydaje się to „niewłaściwe”, ponieważ nie uwzględni czasowej korelacji między różnymi punktami w czasie.

robienie uczenia wzmacniającego, takiego jak różnica czasowa z parametrem uczenia i parametrem dyskontowym , i rekurencyjne rozwiązywanie dla poprzez propagację zaczynając od $\alpha$ $\lambda$ $\beta_t$ $t=T$

$\Delta \beta_{t} = \alpha (\hat{Y}_{t+1} - \hat{Y}_{t}) \sum_{k=1}^{t} \lambda^{t-k} \nabla_{\beta} \hat{Y}_{k}$

with gradient względem . $\nabla_{\beta} \hat{Y}$ $f()$ $\beta$

Wydaje się to bardziej „poprawne”, ponieważ uwzględnia strukturę czasową, ale parametry i są swego rodzaju „ad hoc”. $\alpha$ $\lambda$

Pytanie : czy istnieje literatura na temat sposobu mapowania powyższych nadzorowanych / uczących się technik uczenia się w ramy regresji stosowane w statystyce klasycznej / ekonometrii? W szczególności chciałbym być w stanie oszacować parametry w „jednym przejściu” (tj. Dla wszystkich jednocześnie), wykonując (nieliniowe) najmniejsze kwadraty lub maksymalne prawdopodobieństwo w modelach takich jak $\beta_{t}$ $t=1...T$

$Y_{iT} = f(\sum_{t=1}^T X_{it} \beta_{t}) + \epsilon_{i}$

Chciałbym również dowiedzieć się, czy meta-parametry uczące się różnicy czasowej i można odzyskać z formuły o najwyższym prawdopodobieństwie. $\alpha$ $\lambda$

regression machine-learning reinforcement-learning

— TemplateRex
źródło

Czy możesz wyjaśnić sformułowanie w akapicie trzecim? Piszesz, że chcesz przewidzieć z , , ale poniższy wzór sugeruje, że chcesz przewidzieć .

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

t < T

$t < T$

Y_{i t}

$Y_{it}$

— NRH

@NRH faktycznie obserwuję tylko , ale to, co widziałem w literaturze na temat nadzorowanego uczenia się, polega na tym, że przypisują one niezauważone równości a następnie dokonują dopasowania, aby faktycznie wyjaśnić ten fałszywy z (odbywa się to w aplikacjach do gier, w których funkcja oceny dla każdej pozycji jest dopasowana do końcowego wyniku gry). Przepraszam, jeśli nie było to jasne z mojego początkowego sformułowania. W każdym razie byłby przewidywanym „wynikiem” (w aplikacjach do gry), biorąc pod uwagę obserwowane zdarzenia .

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

{\hat{Y}}_{i t}

$\hat{Y}_{it}$

X_{i t}

$X_{it}$

— TemplateRex,

Rozumiem konfigurację i to, co obserwujesz, ale twoje sformułowanie w pytaniu jest niejasne. Czy chcesz wytrenować model przewidywania podczas pisania słowami, czy chcesz wytrenować model przewidywania dla wszystkich jak sugerują formuły? Może to tylko literówka. Kiedy piszesz "... prognozy z ..." masz na myśli "... prognozy z ..."?

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

t

$t$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

— NRH,

nie jest jasne, dlaczego chcesz to zrobić. Jeśli potrafisz wyjaśnić praktyczne zastosowanie, możesz uzyskać jaśniejsze odpowiedzi. Ogólnie rzecz biorąc, najlepszą prognozą dla każdego przedziału czasu będzie po prostu regresja dla dostępnych danych osobno dla każdego t. Nie jest oczywiste, że jednoczesne podejście ma jakąkolwiek korzyść. Myślę, że musisz określić model statystyczny dla swojego zestawu danych, a wtedy korzyści mogą być wyraźniejsze.

Y_{T}

$Y_T$

X_{1}, \dots, X_{t}

$X_1,\dots,X_t$

— seanv507

@NRH, tak, chcę przewidzieć podstawie wiedząc, że prowadzi to do wyniku w danych treningowych, aby podjąć optymalne działania dla danych testowych, w których również obserwuję ale nie zaobserwowałem jeszcze rezultatu. Zaktualizuje moje sformułowanie.

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

— TemplateRex,

Odpowiedzi:

Opis problemu nie jest dla mnie do końca jasny, dlatego staram się zgadywać pewne założenia. Jeśli to nie odpowiada na twoje pytanie, może przynajmniej pomóc w dalszym wyjaśnieniu problemów.

Pierwszą rzeczą, która nie jest dla mnie jasna, są dane, na których chcesz oprzeć swoje przewidywania. Jeśli chcesz przewidzieć na podstawie zaobserwowanych danych, aż do wówczas podejście rekurencyjne, jak w twojej metodzie 2. nie ma sensu, ponieważ wykorzystałoby to przyszłe dane, tj. z . $Y_T$ $t<T$ $X_\tau$ $\tau>t$

Po drugie, nie określasz, jakie będą właściwości przewidywanego . Ogólnie biorąc, podane informacje w czasie warunkowe oczekiwanie jest „najlepszym predyktorem” w sensie L2. W przypadku, gdy naprawdę chcesz przewidzieć warunkowe oczekiwanie, zwykłą metodą najmniejszych kwadratów jest metoda praktycznego oszacowania. $Y_t$ $X_1,\ldots, X_t$ $t<T$ $Y_t=\text{E}[Y_T \mid X_1,\ldots, X_t]$ $Y_T$

Co więcej, nie rozumiem twojej uwagi na temat korelacji nie odzwierciedlonych przez regresję opartą na . Ten zawiera wszystko, co wiedział, dopóki włącznie korelacji pomiędzy swoimi obserwacjami. $X_1, \ldots, X_t$ $t$

Podsumowując i frazując to jako odpowiedź: jeśli chcesz dokonać optymalnej prognozy w sensie L2, w oparciu tylko o dane obserwowane do czasu , możesz użyć regresji metodą najmniejszych kwadratów. $t<T$

— gg
źródło

w danych treningowych chcę wykorzystać fakt, że dana obserwacja statystycznie doprowadzi do wyniku , aby przewidzieć dla danych testowych, których nie obserwuję do później. Jeśli np. Wiesz, że po 3 wietrznych dniach prawdopodobnie będzie padać deszcz w dniu 7, chcesz użyć tych informacji, aby powiedzieć ludziom, aby przynieśli parasole po weekendzie po kilku wietrznych dniach wcześniej.

X_{i t}

$X_{it}$

Y_{i T}

$Y_{iT}$

{\hat{Y}}_{i t}

$\hat{Y}_{it}$

Y_{i T}

$Y_{iT}$

— TemplateRex,

Zaletą różnic czasowych jest to, że pozwalają uczyć się na podstawie niepełnych odcinków. Tak więc sekwencje, w których nie dotarłeś do ostatecznego Y, można nadal wykorzystać do dopasowania modelu; zamiast tego używane są kolejne szacunki. Efekt jest podobny do imputacji ukrytych danych; domyślnie przypisujesz pozostałą część sekwencji zgodnie z bieżącym modelem.
Modele różnic czasowych są zwykle trenowane przez stochastyczne opadanie gradientu . kontroluje szybkość uczenia się. Zbyt wysoka, a metoda będzie się różnić. Zbyt niska i konwergencja do lokalnego optimum będzie bardzo powolna. Ale konwergencja powinna zawsze być zgodna z tym samym modelem. Tutaj, $\alpha$
$\gamma$ kontroluje względny wysiłek włożony w przewidywanie w zależności od odległości od końca sekwencji. Ponieważ te sekwencje mają skończoną długość, możesz ustawić tę wartość na , aby przypisać tę samą wagę wszystkim oszacowaniom. $\gamma=1$

— nsweeney
źródło

To tak naprawdę nie odpowiada na pytanie: np. Jak optymalnie ustawić parametry i w ramach maksymalnego prawdopodobieństwa?

α

$\alpha$

γ

$\gamma$

— TemplateRex,

α

$\alpha$ kontroluje szybkość konwergencji, ale nie powinna mieć wpływu na ostateczny model ani na prawdopodobieństwo tego modelu. W praktyce ustawiam to metodą prób i błędów. Musisz ustawić ponieważ kontroluje względne znaczenie prognoz krótko- i długoterminowych, jeśli te same parametry są stosowane w prognozach krótko i długo. Będzie to specyficzne dla aplikacji w zależności od tego, co chcesz zrobić z prognozami.

γ

$\gamma$

— nsweeney,