Jak sprawdzić, czy macierz krzyżowej kowariancji jest niezerowa?

Tło moich badań :

W próbkowaniu Gibbsa, w którym próbkujemy (zmienną interesów) i z i , gdzie i są losowymi wektorami wymiarowymi. Wiemy, że proces zwykle dzieli się na dwa etapy: $X$ $Y$ $P(X|Y)$ $P(Y|X)$ $X$ $Y$ $k$

Okres wygrzewania, w którym usuwamy wszystkie próbki. Oznacz próbki jako i . $X_1\sim X_t$ $Y_1\sim Y_t$
Okres „po wypaleniu”, w którym uśredniamy próbki jako nasz końcowy pożądany wynik. $\bar{X} = \frac{1}{k}\sum_{i=1}^k X_{t+i}$

Jednak próbki w sekwencji „dopalania” nie są niezależnie dystrybuowane. Dlatego jeśli chcę sprawdzić wariancję wyniku końcowego, staje się $X_{t+1}\sim X_{t+k}$

Var [\bar{X}] = Var [\sum_{i = 1}^{k} X_{t + i}] = \frac{1}{k^{2}} (\sum_{i = 1}^{k} Var [X_{t + i}] + \sum_{i = 1}^{k - 1} \sum_{j = i + 1}^{k} Cov [X_{t + i}, X_{t + j}])

$\operatorname{Var}[\bar{X}] = \operatorname{Var}\left[\sum_{i=1}^k X_{t+i}\right] = \frac{1}{k^2}\left(\sum_{i=1}^k\operatorname{Var}[X_{t+i}] + \sum_{i=1}^{k-1} \sum_{j=i+1}^k \operatorname{Cov}[X_{t+i},X_{t+j}]\right)$

Tutaj termin nazwa to macierzy krzyżowej kowariancji dotyczy dowolnej z . $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $k\times k$ $(i,j)$ $i<j$

Na przykład mam

X_{t + 1} = (1, 2, 1)^{'} X_{t + 2} = (1, 0, 2)^{'} X_{t + 3} = (1, 0, 0)^{'} X_{t + 4} = (5, 0, - 1)^{'}

$X_{t+1} = (1,2,1)'\\ X_{t+2} = (1,0,2)'\\ X_{t+3} = (1,0,0)'\\ X_{t+4} = (5,0,-1)'$

wtedy mógłbym oszacować macierz kowariancji pomocą $\operatorname{Cov}[X_{t+i}, X_{t+i+1}]$

\frac{1}{3} \sum_{i = 1}^{3} (X_{t + i} - μ_{t + i}) (X_{t + i + 1} - μ_{t + i + 1})^{'}

$\frac{1}{3}\sum_{i=1}^3 (X_{t+i}-\mu_{t+i})(X_{t+i+1}-\mu_{t+i+1})'$

Teraz jestem zainteresowany, czy wynikowa estymacja jest znacząco niezerowa, dlatego muszę ją uwzględnić w mojej estymacji wariancji nazwa . $\operatorname{Var}[\bar{X}]$

Oto moje pytania :

My próbki od . Ponieważ się zmienia, myślę, że i nie są z tej samej dystrybucji, więc to nie to samo, co nazwa . Czy to stwierdzenie jest prawidłowe? $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$
Załóżmy, że mam wystarczającą ilość danych, aby oszacować (sąsiednie próbki w sekwencji), czy istnieje sposób na sprawdzenie, czy macierz kowariancji jest niezerowa matryca? Mówiąc ogólnie, interesuje mnie wskaźnik, który prowadzi mnie do pewnych znaczących macierzy krzyżowania kowariancji, które powinny być uwzględnione w mojej ostatecznej ocenie wariancji. $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

— TomHall
źródło

W rzeczywistości wygląda to na całkiem dobre pytanie; Myślę, że niektórzy ludzie będą lepiej przygotowani do udzielania dobrych odpowiedzi ode mnie, więc chciałbym to promować (wystawić nagrodę), gdy wkrótce stanie się kwalifikowalny. [Krótkie odpowiedzi: 1. Te dwie kowariancje są różne. 2. Nie musisz sprawdzać, czy kolejne zmienne są skorelowane (we wszystkich, z wyjątkiem najbardziej trywialnych przypadków; algorytm działa poprzez generowanie zmiennych zależnych) - bardziej interesujące jest zmierzenie korelacji niż jej przetestowanie;] ... jeśli dobre odpowiedzi nie pojawiają się.

— Zamienię

Wygląda na to, że twoje pytanie jest znacznie szersze niż pytanie tytułowe. Konkretnie odnosząc się do twojego pytania tytułowego, istnieje test sferyczności Bartletta, który pozwala sprawdzić, czy przykładowa macierz kowariancji jest ukośna. Prawdopodobnie trzeba by go dostosować do scenariusza krzyżowej kowariancji (twoja „macierz kowariancji” tak naprawdę nie jest tak naprawdę macierzą kowariancji, to macierz krzyżowej kowariancji; to nie przekątny blok pełnej macierzy kowariancji X_t i X_ { t + 1} razem). CC do @Glen_b.

— ameba

Dodałbym, że kowariancje mają tendencję do zanikania mniej więcej geometrycznego (coraz bardziej wraz z oddalaniem się); wartości daleko od siebie odległe w czasie mają zwykle bardzo niską korelację ( nie zero, ale w dużej mierze ignorowalne), podczas gdy te blisko siebie mogą czasem być całkiem zależne.

— Glen_b

@Tom 1. Co się jednak dzieje z ACF przy seriach stacjonarnych przy bardzo odległych opóźnieniach (4 nie jest daleko!)

$\quad$ 2. Wiesz coś o tym, jak działają generowane wartości z MCMC, czego nie można powiedzieć o dowolnych szeregach czasowych ... są one Markowskie . Zauważysz, że moje wcześniejsze komentarze nie twierdzą, że najbliższe opóźnienia muszą wykazywać rozpad geometryczny (np. Nie powiedziałem, że nie można zobaczyć wyższej korelacji przy opóźnieniu 4 niż 3). Nadal będziesz miał (jeśli pewne warunki się utrzymują) tendencję do rozpadu geometrycznego w ACF podczas oddalania się od siebie.

— Glen_b

Jeśli twój okres próbkowania jest tak krótki, że nie masz bardzo dokładnych oszacowań kowariancji krzyżowej, być może będziesz musiał poradzić sobie z faktem, że twoje szacunki warunków krzyżowych kowariancji mają duży błąd standardowy. Biorąc pod uwagę moje obecne rozumienie, jeszcze silniej potwierdzę swój sprzeciw wobec testowania korelacji. Testowanie hipotez dla korelacji zerowych z niezerowymi nie rozwiązuje tutaj twojego problemu.

— Glen_b

Próbkujemy z . Ponieważ się zmienia, myślę i nie są z tego samego rozkładu [...] $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$

Mylisz tutaj dystrybucje warunkowe i bezwarunkowe, patrz także moja następna uwaga. Warunkowo na i , . Ale cały punkt konstruowania próbnik Gibbsa jest próbka z nieruchomymi rozkładów i . Z grubsza mówiąc, jeśli prowadzisz swój łańcuch wystarczająco długo, aby za rozkładem stacjonarnym, możesz powiedzieć co oznacza, że bezwarunkowy rozkład $Y_{t+i} = y_1$ $Y_{t+i+1} = y_2$ $P(X_{t+i}|Y_{t+i} = y_1) \neq P(X_{t+i+1}|Y_{t+i+1} = y_2)$ $X$ $Y$ $\{Y_t\}$

\begin{aligned} P (X_{t}) = \int_{Y} P (X_{t} | Y_{t}) d P (Y_{t}), \end{aligned}

$\begin{align} P(X_t) = \int_{\mathcal{Y}}P(X_t|Y_t)dP(Y_t), \end{align}$

X_{t}

$X_t$ jest również niezmienny. Innymi słowy, gdy i zbliżamy się do rozkładów stacjonarnych, , ponieważ i będą asymptotycznie czerpane z (tego samego!) rozkładu stacjonarnego . Z drugiej strony i jak poprzednio, po uwarunkowaniu i , nie będzie to dłużej obowiązywać, niezależnie od tego, jak duże jest .

t \to \infty

$t \to \infty$

P (X_{t + i} | Y_{t + i}) = P (X_{t + i + 1} | Y_{t + i + 1})

$P(X_{t+i}|Y_{t+i}) = P(X_{t+i+1}|Y_{t+i+1})$

Y_{t + i}

$Y_{t+i}$

Y_{t + i + 1}

$Y_{t+i+1}$

P (Y_{t})

$P(Y_t)$

Y_{t + i} = y_{1}

$Y_{t+i} = y_1$

Y_{t + i + 1} = y_{2}

$Y_{t+i+1} = y_2$

t

$t$

$\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$

$X_{t+1} \sim X_{t}$ $X_t$ $X_{t+1}$ $Y_t = 0.8\cdot Y_{t-1} + \varepsilon_t$ $\varepsilon_t \overset{iid}{\sim} N(0,1)$ $Y_t = \sum_{i=0}^t0.8^i \varepsilon_{t-i}$ $\text{Var}(Y_t) = \sum_{i=0}^t0.8^{2i} = \dfrac{1}{1-0.8^2}$ $Y_t \overset{iid}{\sim} N(0, \dfrac{1}{1-0.8^2})$ $Y_t$ $Y_{t+1}$ $Y_{t+1} \sim Y_{t}$ $X_t$

$\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

$k(\cdot)$ $0$ $l_T$ $l_T$

— Jeremias K
źródło