Czy implikuje niezależność i ?

Czy implikuje niezależność i ? $\mathbb{Cov} \left(f(X),Y\right) = 0 \; \forall \; f(.)$ $X$ $Y$

Znam tylko z następującą definicję niezależności pomiędzy i . $X$ $Y$

f_{x, y} (x, y) = f_{x} (x) f_{y} (y)

$f_{x,y}(x,y) = f_x(x)f_y(y)$

random-variable independence

— stollenm
źródło

Potrzebujesz , nie tylko

C o v (f (X), g (Y)) = 0 for all (measurable) f (\cdot), g (\cdot)

$\mathbb{Cov} \left(f(X),g(Y)\right) = 0 ~\text{for all (measurable)} ~f(\cdot), g(\cdot)$

C o v (f (X), Y) = 0 \forall f (\cdot)

$\mathbb{Cov} \left(f(X),Y\right) = 0 \; \forall \; f(\cdot)$

— Dilip Sarwate

Zacznijmy od intuicji. Nachylenie zwykłej najmniejszych kwadratów z z , dla każdej funkcji , jest proporcjonalna do kowariancji i . Zakłada się, że wszystkie regresje są zerowe (nie tylko te liniowe). Jeśli wyobrażasz sobie reprezentowane przez chmurę punktów (naprawdę chmurę gęstości prawdopodobieństwa), to bez względu na to, jak ją pokroisz w pionie i zmienisz kolejność plasterków (która wykonuje mapowanie ), regresja pozostaje zerowa. To implikuje warunkowe oczekiwania $Y$ $h(X)$ $h$ $h(X)$ $Y$ $(X,Y)$ $h$ $Y$ (które są funkcją regresji) są stałe. Moglibyśmy rozejrzeć się z rozkładami warunkowymi , utrzymując stałe oczekiwania, niszcząc w ten sposób wszelkie szanse na niezależność. Dlatego powinniśmy oczekiwać, że wniosek nie zawsze będzie taki sam.

Istnieją proste kontrprzykłady. Rozważ przykładową przestrzeń dziewięciu elementów abstrakcyjnych i dyskretną miarę z prawdopodobieństwem określonym przez

Ω = {ω_{i, j} ∣ - 1 \leq i, j, \leq 1}

$\Omega = \{\omega_{i,j}\mid -1 \le i,j,\le 1\}$

P (ω_{0, 0}) = 0; P (ω_{0, j}) = 1 / 5 (j = \pm 1); P (ω_{i, j} = 1 / 10) otherwise.

$\mathbb{P}(\omega_{0,0})=0;\ \mathbb{P}(\omega_{0,j})=1/5\,(j=\pm 1);\ \mathbb{P}(\omega_{i,j}=1/10)\text{ otherwise.}$

Zdefiniuj

X (ω_{i, j}) = j, Y (ω_{i, j}) = i .

$X(\omega_{i,j})=j,\ Y(\omega_{i,j})=i.$

Możemy wyświetlić te prawdopodobieństwa jako tablicę

(\begin{matrix} 1 & 2 & 1 \\ 1 & 0 & 1 \\ 1 & 2 & 1 \end{matrix})

$\pmatrix{1&2&1\\1&0&1\\1&2&1}$

(wszystkie pomnożone przez ) indeksowane w obu kierunkach przez wartości . $1/10$ $-1,0,1$

Krańcowe prawdopodobieństwa są i obliczone odpowiednio przez sumy kolumn i sumy wierszy tablicy. Ponieważ te zmienne nie są niezależne.

f_{X} (- 1) = f_{X} (1) = 3 / 10; f_{X} (0) = 4 / 10

$f_X(-1)=f_X(1)=3/10;\, f_X(0)=4/10$

f_{Y} (- 1) = f_{Y} (1) = 4 / 10; f_{Y} (0) = 2 / 10,

$f_Y(-1)=f_Y(1)=4/10;\, f_Y(0)=2/10,$

f_{X} (0) f_{Y} (0) = (4 / 10) (2 / 10) \neq 0 = P (ω_{0, 0}) = f_{X Y} (0, 0),

$f_X(0)f_Y(0)=(4/10)(2/10)\ne 0=\mathbb{P}(\omega_{0,0})=f_{XY}(0,0),$

Zostało to skonstruowane tak, aby rozkład warunkowy gdy różni się od innych rozkładów warunkowych dla . Można to zobaczyć, porównując środkową kolumnę macierzy z innymi kolumnami. Symetria współrzędnych i wszystkich prawdopodobieństw warunkowych natychmiast pokazuje, że wszystkie oczekiwania warunkowe są zerowe, skąd wszystkie kowariancje są zerowe, bez względu na to, w jaki sposób powiązane wartości mogą być ponownie przypisane do kolumn. $Y$ $X=0$ $X=\pm 1$ $Y$ $X$

Dla tych, którzy mogą pozostać nieprzekonani, kontrprzykład można zademonstrować poprzez bezpośrednie obliczenia - jest tylko funkcji, które należy wziąć pod uwagę i dla każdej z nich kowariancja wynosi zero. $27$

— Whuber
źródło