Czy oznacza, że ​​centrowanie zmniejsza kowariancję?

Zakładając, że mam dwie nie-niezależne zmienne losowe i chcę jak najbardziej zmniejszyć kowariancję bez utraty zbyt dużej ilości „sygnału”, czy oznacza to, że centrowanie pomaga? Czytałem gdzieś, co oznacza, że ​​centrowanie zmniejsza korelację o znaczący czynnik, więc myślę, że powinno to zrobić to samo dla kowariancji.

Jeżeli i są zmienne i przypadkowe i są stałymi, a centrującego szczególny przypadek i , więc nie wpływa centrowania kowariancji.$X$$Y$$a$$b$

$$\begin{aligned} \operatorname{Cov}(X + a, Y + b) &= E[(X + a - E[X + a])(Y + b - E[Y + b])] \\ &= E[(X + a - E[X] - E[a])(Y + b - E[Y] - E[b])] \\ &= E[(X + a - E[X] - a)(Y + b - E[Y] - b)] \\ &= E[(X - E[X])(Y - E[Y])] \\ &= \operatorname{Cov}(X, Y). \end{aligned}$$ $a = -E[X]$$b = -E[Y]$

---

Ponadto, ponieważ korelacja jest zdefiniowana jako nazwa widzimy, że nazwa więc centrowanie nie wpływa w szczególności na korelację.

$$\operatorname{Corr}(X, Y) = \frac{\operatorname{Cov}(X, Y)}{\sqrt{\operatorname{Var}(X) \operatorname{Var}(Y)}},$$ $$\begin{aligned} \operatorname{Corr}(X + a, Y + b) &= \frac{\operatorname{Cov}(X + a, Y + b)}{\sqrt{\operatorname{Var}(X + a) \operatorname{Var}(Y + b)}} \\ &= \frac{\operatorname{Cov}(X, Y)}{\sqrt{\operatorname{Var}(X) \operatorname{Var}(Y)}}, \end{aligned}$$

---

To była wersja populacyjna tej historii. Przykładowa wersja jest taka sama: jeśli użyjemy nazwa jako nasze oszacowanie kowariancji między i ze sparowanej próbki , a następnie

$$\widehat{\operatorname{Cov}}(X, Y) = \frac{1}{n} \sum_{i=1}^n \left(X_i - \frac{1}{n}\sum_{j=1}^n X_j\right)\left(Y_i - \frac{1}{n}\sum_{j=1}^n Y_j\right)$$ $X$$Y$$(X_1,Y_1), \ldots, (X_n,Y_n)$ $$\begin{aligned} \widehat{\operatorname{Cov}}(X + a, Y + b) &= \frac{1}{n} \sum_{i=1}^n \left(X_i + a - \frac{1}{n}\sum_{j=1}^n (X_j + a)\right)\left(Y_i + b - \frac{1}{n}\sum_{j=1}^n (Y_j + b)\right) \\ &= \frac{1}{n} \sum_{i=1}^n \left(X_i + a - \frac{1}{n}\sum_{j=1}^n X_j - \frac{n}{n} a\right)\left(Y_i + b - \frac{1}{n}\sum_{j=1}^n Y_j - \frac{n}{n} b\right) \\ &= \frac{1}{n} \sum_{i=1}^n \left(X_i - \frac{1}{n}\sum_{j=1}^n X_j\right)\left(Y_i - \frac{1}{n}\sum_{j=1}^n Y_j\right) \\ &= \widehat{\operatorname{Cov}}(X, Y) \end{aligned}$$ dla dowolny i .$a$$b$

Definicja kowariancji i to . Wyrażenie w tym wzorze jest scentralizowaną wersja . Więc już wyśrodkowujemy gdy bierzemy kowariancję, a centrowanie jest operatorem idempotentnym; po wyśrodkowaniu zmiennej dalsze stosowanie procesu centrowania nie zmienia jej. Gdyby formuła nie przyjęła wyśrodkowanych wersji zmiennych, wystąpiłyby wszelkiego rodzaju dziwne efekty, takie jak kowariancja między temperaturą a inną zmienną, która różni się w zależności od tego, czy mierzymy temperaturę w stopniach Celsjusza czy Kelvina.$X$$Y$$E[(X-E[X])(Y-E[Y])]$$X-E[X]$$X$$X$

„gdzieś” jest raczej nierzetelnym źródłem ...

Kowariancja / korelacja są zdefiniowane z wyraźnym centrowaniem . Jeśli nie wyśrodkujesz danych, nie będziesz obliczać kowariancji / korelacji. (Dokładnie: korelacja Pearsona)

Główna różnica polega na tym, czy wyśrodkowujesz na podstawie modelu teoretycznego (np. Oczekiwana wartość powinna wynosić dokładnie 0), czy na podstawie danych (średnia arytmetyczna). Łatwo zauważyć, że średnia arytmetyczna da mniejszą kowariancję niż jakiekolwiek inne centrum.

Jednak mniejsza kowariancja nie oznacza mniejszej korelacji lub wręcz przeciwnie. Załóżmy, że mamy dane X = (1,2) i Y = (2,1). Łatwo zauważyć, że przy arytmetycznym średnim centrowaniu da to idealnie ujemną korelację, a jeśli wiemy, że proces generowania generuje średnio 0, dane są faktycznie dodatnio skorelowane. W tym przykładzie skupiamy się - ale z teoretyczną oczekiwaną wartością 0.

Może to powstać łatwo. Rozważmy, że mamy matrycę czujników 11x11 z komórkami ponumerowanymi od -5 do +5. Zamiast brać średnią arytmetyczną, sensownym jest użycie tutaj „fizycznej” średniej naszej matrycy czujników, gdy szukamy korelacji zdarzeń czujnika (jeśli policzymy komórki od 0 do 10, użyjemy 5 jako stałej stałej, i otrzymalibyśmy dokładnie takie same wyniki, aby wybór indeksowania zniknął z analizy - fajnie).