Dlaczego rośnie wariancja chodzenia losowego?

Losowo w odległości , która jest określona jako gdzie jest szum biały. Oznacza, że ​​bieżąca pozycja jest sumą poprzedniej pozycji + nieprzewidziany termin.$Y_{t} = Y_{t-1} + e_t$$e_t$

Możesz udowodnić, że średnia funkcja , ponieważ$\mu_t = 0$$E(Y_{t}) = E(e_1+ e_2+ ... +e_t) = E(e_1) + E(e_2) +... +E(e_t) = 0 + 0 + ... + 0$

Ale dlaczego wariancja rośnie liniowo z czasem?

Czy ma to coś wspólnego z „czystą” losowością, ponieważ nowa pozycja jest bardzo skorelowana z poprzednią?

EDYTOWAĆ:

Teraz znacznie lepiej rozumiem, wizualizując dużą próbę losowych spacerów, i tutaj możemy łatwo zauważyć, że ogólna wariancja z czasem wzrasta ,

a średnia jest jak oczekiwano wokół zera.

Być może było to w końcu trywialne, ponieważ na bardzo wczesnych etapach szeregu czasowego (porównaj czas = 10, ze 100) przypadkowi wędrowcy nie mieli jeszcze czasu na eksplorację.

W skrócie, ponieważ dodaje wariancję kolejnych przyrostów do zmienności, którą mamy w dotarciu do miejsca, w którym jesteśmy teraz.

$\text{Var}(Y_{t}) = \text{Var}(e_1+ e_2+ ... +e_t)$
$\qquad\quad\;\;= \text{Var}(e_1) + \text{Var}(e_2) +... +\text{Var}(e_t)$ (niezależność)
$\qquad\quad\;\;= \sigma^2 + \sigma^2 + ... + \sigma^2=t\sigma^2\,,$

i widzimy, że wzrasta liniowo wraz z .$t\sigma^2$$t$

Średnia wynosi zero w każdym punkcie czasowym; jeśli symulowałeś serię wiele razy i uśredniłeś dla szeregu dla danego czasu, to średnia wyniosłaby około 0

$\quad^{\text{Figure: 500 simulated random walks with sample mean in white and }}$
$\quad^{ \pm \text{ one standard deviation in red. Standard deviation increases with } \sqrt{t}\,.}$

Oto sposób, aby to sobie wyobrazić. Aby uprościć sprawę, zastąpmy twój biały szum monetąe $e_i$$e_i$

to po prostu upraszcza wizualizację, nie ma nic naprawdę fundamentalnego w przełączniku, oprócz zmniejszenia obciążenia naszej wyobraźni.

Załóżmy teraz, że zebrałeś armię płetw. Ich instrukcje mają, na twój rozkaz, rzucić monetą i sprawdzać, jakie były ich wyniki, a także podsumować wszystkie poprzednie wyniki. Każdy pojedynczy płetwa jest przykładem przypadkowego spaceru

a zebranie całej armii powinno dać ci pogląd na oczekiwane zachowanie.

flip 1: Około połowa twojej armii przewraca głowy, a połowa przewraca ogony. Oczekiwana suma, obliczona dla całej armii, wynosi zero. Maksymalna wartość w całej armii wynosi a minimalna , więc całkowity zasięg to .1 - 1 $W$$1$$-1$$2$

flip 2: Około pół odwróconych głów i pół odwróconych ogonów. Oczekiwanie na ten obrót jest ponownie równe zero, więc oczekiwanie wszystkich przerzutów nie zmienia się. Część twojej armii przerzuciła , a inna przerzuciła , więc maksymalna wynosi a minimalna ; całkowity zakres wynosi .H H T T W 2 - 2 $W$$HH$$TT$$W$$2$$-2$$4$

...

flip n: Około pół odwróconych głów i pół odwróconych ogonów. Oczekiwanie na to przerzucenie wynosi ponownie zero, więc oczekiwanie na wszystkich przerzuceniach nie zmienia się, wciąż wynosi zero. Jeśli armia jest bardzo duża, niektóre bardzo szczęśliwy żołnierze przerzucony i inni . To znaczy, jest kilka z głowami, a kilka z ogonami (choć z czasem staje się to coraz rzadsze). Tak więc, przynajmniej w naszej wyobraźni, całkowity zasięg wynosi .H H ⋯ H T T ⋯ T n n 2 $W$$HH \cdots H$$TT \cdots T$$n$$n$$2n$

Oto, co możesz zobaczyć z tego eksperymentu myślowego:

• Oczekiwanie na marsz wynosi zero, ponieważ każdy krok marszu jest zrównoważony.
• Całkowity zasięg marszu rośnie liniowo wraz z długością marszu.

Aby odzyskać intuicję, musieliśmy odrzucić standardowe odchylenie i zastosować w intuicyjny sposób zakres.

Czy ma to coś wspólnego z „czystą” losowością, ponieważ nowa pozycja jest bardzo skorelowana z poprzednią?

Wydaje się, że przez „czysty” rozumiesz niezależność . W losowym marszu tylko kroki są losowe i niezależne od siebie. Jak zauważyłeś, „pozycje” są losowe, ale skorelowane , tj. Nie są niezależne .

Oczekiwanie na pozycję wciąż wynosi zero, tak jak napisałeś . Powodem, dla którego obserwujesz niezerowe pozycje, jest to, że pozycje są nadal losowe, tj. Wszystkie są niezerowymi liczbami losowymi. W rzeczywistości, gdy zwiększasz próbkę, od czasu do czasu będzie obserwowane większe , właśnie dlatego, jak zauważyłeś, wariancja rośnie wraz z rozmiarem próbki.Y t Y $E[Y_t]=0$$Y_t$$Y_t$

Różnica rośnie, ponieważ jeśli pozycję w następujący sposób: , możesz oczywiście zobaczyć, że pozycja jest sumą kroków. Rozbieżności sumują się ze wzrostem wielkości próby.$Y_t=Y_0+\sum_{i=0}^t\varepsilon_t$

Nawiasem mówiąc, sumy błędów również się sumują, ale w losowym marszu zwykle zakładamy, że średnie są równe zero, więc dodanie wszystkich zer będzie nadal dawało zero. Istnieje losowy spacer z dryfem: , gdzie będzie dryfował od zera w tempie wraz z czasem próbkowania.Y t μ $Y_t-Y_{t-1}=\mu+\varepsilon_t$$Y_t$$\mu t$

Weźmy inny przykład intuicyjnego wyjaśnienia: rzucanie rzutkami w tarczę do rzutek. Mamy gracza, który próbuje celować w dziesiątkę, którą uważamy za współrzędną zwaną 0. Gracz rzuca kilka razy, a przecież średnia jego rzutów wynosi 0, ale nie jest zbyt dobry, więc wariancja wynosi 20 cm.

Prosimy gracza, aby rzucił jedną nową rzutką. Czy spodziewasz się, że trafi w dziesiątkę?

Nie. Chociaż średnia to dokładnie dziesiątka, kiedy próbujemy rzut, raczej nie jest to dziesiątka.

Podobnie w przypadku losowego marszu nie spodziewamy się, że pojedyncza próbka w czasie będzie w pobliżu 0. To w rzeczywistości wskazuje wariancja: jak daleko spodziewamy się próbki?$t$

Jednakże, jeśli weźmiemy dużo próbek, zobaczymy, że wyśrodkowuje się ono na 0. Podobnie jak nasz gracz w rzutki prawie nigdy nie trafi w dziesiątkę (duża wariancja), ale jeśli rzuci dużo rzutek, będzie je wyśrodkować wokół tarczy (średnia).

Jeśli rozszerzymy ten przykład na losowy marsz, możemy zauważyć, że wariancja rośnie z czasem, mimo że średnia pozostaje na poziomie 0. W przypadku przypadkowego chodzenia wydaje się dziwne, że średnia pozostaje na poziomie 0, nawet jeśli intuicyjnie wiesz że prawie nigdy nie kończy się dokładnie u źródła. To samo dotyczy naszej lotki: widzimy, że jakakolwiek pojedyncza strzałka prawie nigdy nie trafi w dziesiątkę z rosnącą wariancją, a jednak strzałki będą tworzyły ładną chmurę wokół tarczy - średnia pozostaje taka sama: 0.

Oto inny sposób na uzyskanie intuicji, że wariancja rośnie liniowo z czasem.

Zwroty wzrastają liniowo z czasem. zwrotu na miesiąc przekłada się na zwrotu na rok - zwrotu na dzień generuje zwrotu na rok (przy założeniu niezależności).$.1\%$$1.2\%$$X$$365X$

Ma sens, że zakres zwrotów również wzrasta liniowo. Jeśli miesięczny zwrot wynosi średnio średnio , to intuicyjnie wydaje się, że rocznie wynosi on średnio .$.1\%$$\pm .05\%$$1.2\%$$\pm .6\%$

Cóż, jeśli intuicyjnie myślimy o wariancji jako zakresie, wówczas intuicyjnie ma sens, że wariancja wzrasta w taki sam sposób, jak powrót w czasie, to znaczy liniowo.