Zamawianie szeregów czasowych do uczenia maszynowego

Po przeczytaniu jednej z „Porad badawczych” RJ Hyndmana na temat walidacji krzyżowej i szeregów czasowych wróciłem do mojego starego pytania, które spróbuję tutaj sformułować. Chodzi o to, że w problemach z klasyfikacją lub regresją kolejność danych nie jest ważna, a zatem można zastosować k- krotną walidację krzyżową. Z drugiej strony, w szeregach czasowych, porządkowanie danych ma oczywiście ogromne znaczenie.

Jednak, gdy przy użyciu maszyny do uczenia modelu do prognozowania szeregów czasowych, wspólna strategia jest do przekształcenia serii do zestawu „wektorów wejściowych i wyjściowych”, które przez czas mają postać .$\{y_1, ..., y_T\}$$t$$(y_{t-n+1}, ..., y_{t-1}, y_{t}; y_{t+1})$

Czy po tym przekształceniu możemy uznać, że wynikowy zestaw „wektorów wejściowych i wyjściowych” nie musi być uporządkowany? Jeśli użyjemy, na przykład, sieci neuronowej typu feed-forward z n wejściami do „uczenia się” tych danych, uzyskalibyśmy te same wyniki bez względu na kolejność, w jakiej pokazujemy wektory do modelu. A zatem, czy moglibyśmy zastosować k-krotną weryfikację krzyżową w standardowy sposób, bez konieczności ponownego dopasowywania modelu za każdym razem?

Odpowiedź na to pytanie jest taka, że ​​będzie to działać poprawnie, o ile poprawnie zostanie określona kolejność modeli, ponieważ wtedy błędy z modelu będą niezależne.

Ten papier tutaj pokazuje, że jeśli model ma biedny krzyżowej walidacji będzie nie docenia jak słaba jest w rzeczywistości. We wszystkich innych przypadkach walidacja krzyżowa wykona dobrą robotę, w szczególności lepszą pracę niż ocena poza próbą zwykle stosowana w kontekście szeregów czasowych.

Interesujące pytanie!

Podejście, które opisujesz, jest z pewnością bardzo szeroko stosowane przez osoby używające standardowych metod ML, które wymagają wektorów cech o stałej długości atrybutów, do analizy danych szeregów czasowych.

W poście, do którego prowadzi link, Hyndman wskazuje, że istnieją korelacje między zmienionymi wektorami danych (próbkami). Może to być problematyczne, ponieważ k-CV (lub inne metody oceny, które losowo dzielą dane na zestawy szkoleniowe i testowe) zakładają, że wszystkie próbki są niezależne. Jednak nie sądzę, aby ta obawa była istotna w przypadku standardowych metod ML, które traktują atrybuty osobno.

Dla wyjaśnienia pozwól mi uprościć twoją notację, zakładając $n=3$, więc pierwszych kilku wektorów danych (oznaczonych alfabetycznie) będą:

Oczywiście, A i B mają takie terminy jak $y_2$wspólnie. Ale dla A jest to wartość jego drugiego atrybutu, podczas gdy dla B jest to wartość jego pierwszego atrybutu.