Zestaw nieskorelowanych, ale liniowo zależnych zmiennych

9

Czy można mieć zestaw zmiennych, które są nieskorelowane, ale zależne liniowo? $K$

tj. i $cor(x_i, x_j)=0$ $\sum_{i=1}^K a_ix_i=0$

Jeśli tak, czy możesz napisać przykład?

EDYCJA: Z odpowiedzi wynika, że nie jest to możliwe.

Czy przynajmniej byłoby możliwe, że $\mathbb{P}(|\hat \rho_{x_i, x_j}-\hat \rho_{x_i, v}|<\epsilon)$ gdzie $\hat\rho$ jest szacowanym współczynnikiem korelacji oszacowanym na podstawie $n$ próbek zmiennych i $v$ jest zmienną nieskorelowaną z $x_i$ .

Myślę o czymś takim jak $x_K=\dfrac{1}{K} \sum_{i=1}^{K-1} x_i$ $K>>0$

correlation mathematical-statistics multicollinearity

— Donbeo
źródło

11

Jak pokazuje odpowiedź @ RUser4512, nieskorelowane zmienne losowe nie mogą być zależne liniowo. Ale prawie nieskorelowane zmienne losowe mogą być liniowo zależne, a jednym z nich jest coś, co jest bliskie sercu statystyki.

Załóżmy, że jest zbiorem nieskorelowanych zmiennych losowych wariancji jednostkowych o wspólnej średniej . Zdefiniuj gdzie . Następnie są losowymi zmiennymi o średniej zerowej, takimi jak , to znaczy są liniowo zależne. Teraz więc podczas gdy pokazując, że $\{X_i\}_{i=1}^K$ $K$ $\mu$ $Y_i = X_i - \bar{X}$ $\bar{X} = \frac 1K \sum_{i=1}^K X_i$ $Y_i$ $\sum_{i=1}^K Y_i = 0$

Y_{i} = \frac{K - 1}{K} X_{i} - \frac{1}{K} \sum_{j \neq i} X_{j}

$Y_i = \frac{K-1}{K} X_i - \frac 1K\sum_{j \neq i}X_j$

var (Y_{i}) = {(\frac{K - 1}{K})}^{2} + \frac{K - 1}{K^{2}} = \frac{K - 1}{K}

$\operatorname{var}(Y_i) = \left(\frac{K-1}{K}\right)^2+\frac{K-1}{K^2} = \frac{K-1}{K}$

cov (Y_{i}, Y_{j}) = - 2 (\frac{K - 1}{K}) \frac{1}{K} + \frac{K - 2}{K^{2}} = \frac{- 1}{K}

$\operatorname{cov}(Y_i,Y_j) = -2\left(\frac{K-1}{K}\right)\frac 1K + \frac{K-2}{K^2}= \frac{-1}{K}$

Y_{i}

$Y_i$ są prawie nieskorelowanymi zmiennymi losowymi o współczynniku korelacji .

- \frac{1}{K - 1}

$\displaystyle -\frac{1}{K-1}$

Zobacz także moją wcześniejszą odpowiedź .

— Dilip Sarwate
źródło

1

To naprawdę fajny przykład!

— RUser4512

9

Nie.

Załóżmy, że jeden z jest niezerowy. Bez utraty ogólności, załóżmy, że . $a_i$ $a_1=1$

Dla oznacza to i . Ale ta korelacja wynosi zero. musi wynosić zero, co przeczy istnieniu relacji liniowej. $K=2$ $x_1=-a_2x_2$ $cor(x_1,x_2)=-1$ $a_1$

Dla każdego , i . Ale według twojej hipotezy . Wartości wynoszą zero (dla ), a więc muszą wynosić . $K$ $x_1=-\sum_{i>1}a_ix_i$ $cor(x_1,x_k)=-1$ $cor(x_1,x_k)=0$ $a_i$ $i>1$ $a_1$

— RUser4512
źródło

W przypadku wektorów gaussowskich masz nawet dowód jednowierszowy (który wolę zachować jako komentarz). Korelacja równa 0 oznacza niezależność. oznacza i gotowe.

\sum_{i} a_{i} x_{i} = 0

$\sum_i a_ix_i =0$

\sum_{i} a_{i}^{2} = 0

$\sum_i a_i^2 =0$

— RUser4512

Bardzo dobra odpowiedź. Byłoby miło, gdybyś mógł odpowiedzieć również na edytowane pytanie.

— Donbeo

Edytowane pytanie jest znacznie trudniejsze;) Zakładam, że i odnoszą się do tego samego? Nie widzę sensu współczynnika 1 / K, jeśli szukasz korelacji, to nic nie zmieni do końcowego wyniku

v

$v$

x_{K}

$x_K$

— RUser4512

1 / K było wymagane, aby .

c o r (x_{K}, x_{i}) = 1 / K

$cor(x_K, x_i)=1/K$

— Donbeo

4

To może być trochę oszustwo, ale jeśli zdefiniujemy „nieskorelowany” jako mający kowariancję 0, odpowiedź brzmi „ tak” . Niech i będą zerowe z prawdopodobieństwem 1. Wtedy $X$ $Y$

$\mathop{\mathrm{Cov}}(X,Y)= \mathop{\mathrm{E}}(XY)-\mathop{\mathrm{E}}(X)\mathop{\mathrm{E}}(Y)=0-0=0$

podczas gdy , więc i są liniowo zależne (według twojej definicji). $X+Y=0$ $X$ $Y$

Choć jeśli wymagać, że korelacja jest zdefiniowana, to znaczy, że wariancje zarówno i są absolutnie pozytywne, że to nie możliwe, aby znaleźć zmienne spełniające wybrane kryteria (patrz inne odpowiedzi). $X$ $Y$

— Karl Ove Hufthammer
źródło