Przykłady niezależnych i nieskorelowanych danych w prawdziwym życiu oraz sposoby ich pomiaru / wykrywania

Zawsze słyszymy o tym wektorze danych VS ten inny wektor danych jest od siebie niezależny, nieskorelowany itp. I chociaż łatwo jest znaleźć matematykę dotyczącą tych dwóch pojęć, chcę je połączyć w przykłady z rzeczywistych życie, a także znaleźć sposoby na zmierzenie tego związku.

Z tego punktu widzenia szukam przykładów dwóch sygnałów, które mają następujące kombinacje: (zacznę od niektórych):

Dwa sygnały, które są niezależne ORAZ (niekoniecznie) nieskorelowane:
- Hałas silnika samochodu (nazwij to ) i twój głos ( ) podczas mówienia. $v_1[n]$ $v_2[n]$
- Rejestrowanie wilgotności każdego dnia ( ) i wskaźnik Dow-Jonesa ( ). $v_1[n]$ $v_2[n]$

P1) Jak zmierzyłbyś / udowodnić, że są one niezależne od tych dwóch wektorów w ręku? Wiemy, że niezależność oznacza, że iloczyn ich plików pdf jest równy ich wspólnemu plikowi pdf, i to świetnie, ale jak te dwa wektory są w dłoni, w jaki sposób można udowodnić ich niezależność?

Dwa sygnały, które NIE są niezależne, ale wciąż nieskorelowane:

Q2) Nie mogę tutaj wymyślić żadnych przykładów ... jakie byłyby niektóre przykłady? Wiem, że możemy zmierzyć korelację, biorąc korelację krzyżową dwóch takich wektorów, ale jak moglibyśmy udowodnić, że NIE są one również niezależne?

Dwa skorelowane sygnały:
- Wektor mierzący głos śpiewaczki operowej w głównej sali, , podczas gdy ktoś nagrywa jej głos gdzieś w budynku, powiedzmy w sali prób ( ). $v_1[n]$ $v_2[n]$
- Jeśli ciągle mierzysz tętno w samochodzie ( ), a także mierzysz intensywność niebieskich świateł uderzających w tylną szybę ( ) ... Domyślam się, że byłyby one bardzo skorelowane ... :-) $v_1[n]$ $v_2[n]$

Q3) W odniesieniu do q2, ale czy w przypadku pomiaru korelacji krzyżowej z tego punktu empirycznego wystarczy spojrzeć na iloczyn punktowy tych wektorów (ponieważ jest to wartość na szczycie ich korelacji krzyżowej)? Dlaczego mielibyśmy przejmować się innymi wartościami w funkcji cross-corr?

Jeszcze raz dziękuję, im więcej przykładów podano, tym lepiej do budowania intuicji!

cross-correlation independence

— Spacey
źródło

@DilipSarwate Dzięki Dilip, przyjrzę się temu. Na razie jednak niektóre przykłady byłyby dobre.

— Spacey

Nie możesz „udowodnić”, że są niezależni w taki sam sposób, że nawet dobrze skonstruowana ankieta nie może „udowodnić”, jak wszyscy będą głosować - i z tych samych powodów.

— Jim Clay

@JimClay Zapraszam do rozluźnienia kryterium „udowodnij” - staram się uzyskać sposoby pomiaru / oceny niezależności. Często słyszymy o tym, a więc o byciu niezależnym, skąd oni to wiedzą? Jaka taśma pomiarowa jest używana?

— Spacey

Chciałbym wiedzieć, czy dla celów analizy można zastosować korelację krzyżową dla dwóch sygnałów analogowych: wysokiej i drugiej o niskiej rozdzielczości.

Jeśli mamy jakąś zmienną losową X i konstruujemy 2 sygnały a ** = (x) i ** b ** = (x), przy czym i są ortogonalne, a ** x = a + b $f_1$ $f_2$ $f_1$ $f_2$ . Czy to oznaczałoby, że takie sygnały są niezależne? Czy to wymaga dodatkowych warunków? Ta nieruchomość byłaby interesująca, ponieważ zapobiega konstruowaniu wspólną wersję i b .

— Mladen,

Odpowiedzi:

Kilka elementów ... (Wiem, że to nie jest wyczerpujące, bardziej kompletna odpowiedź powinna prawdopodobnie wspomnieć o chwilach)

Pytanie 1

Aby sprawdzić, czy dwa rozkłady są niezależne, należy zmierzyć, jak podobny jest ich łączny rozkład do iloczynu ich rozkładu krańcowego . W tym celu można użyć dowolnej odległości między rozkładami. Jeśli użyjesz rozbieżności Kullbacka-Leiblera do porównania tych rozkładów, weźmiesz pod uwagę ilość: $p(x,y)$ $p(x) \times p(y)$

$\int_x \int_y p(x, y) \log \frac{p(x, y)}{p(x) p(y)} dx dy$

I rozpoznasz ... wzajemne informacje! Im jest niższy, tym bardziej niezależne są zmienne.

Praktycznie, aby obliczyć tę ilość na podstawie obserwacji, możesz albo oszacować gęstość , , z danych za pomocą estymatora gęstości jądra i wykonać integrację numeryczną na drobnej siatce ; lub po prostu skwantyfikuj swoje dane do przedziałów i użyj wyrażenia informacji wzajemnych dla dyskretnych dystrybucji. $p(x)$ $p(y)$ $p(x, y)$ $N$

Ze strony Wikipedii na temat niezależności statystycznej i korelacji:

Działki dystrybucyjne

$p(x, y)$ $p(x)$ $p(y)$

Pytanie 3

Rzeczywiście istnieją sytuacje, w których można spojrzeć na wszystkie wartości funkcji korelacji krzyżowej. Powstają one na przykład w przetwarzaniu sygnału audio. Rozważ dwa mikrofony przechwytujące to samo źródło, ale odległe od kilku metrów. Korelacja krzyżowa dwóch sygnałów będzie miała silny pik przy opóźnieniu odpowiadającym odległości między mikrofonami podzielonej przez prędkość dźwięku. Jeśli popatrzysz na korelację krzyżową z opóźnieniem 0, nie zobaczysz, że jeden sygnał jest przesuniętą w czasie wersją drugiego!

— fenenety
źródło

p (x, y)

$p(x,y)$

p(x}

$p(x}$

(ciąg dalszy) 2) Podsumowując: jeśli macierz kowariancji xiy jest przekątna, to są one nieskorelowane, ale niekoniecznie niezależne, prawda? Sprawdzenie niezależności było kwestią pytania uzupełniającego (1). Jeśli jednak wykażemy, że są niezależne, wówczas ich macierz kowariancji MUSI być diagonalna. Czy dobrze zrozumiałem? Jaki jest przykład 2 fizycznych sygnałów, które mogę zmierzyć w prawdziwym życiu, które byłyby zależne, ale nie skorelowane? Dzięki jeszcze raz.

— Spacey

x_{n}

$x_n$

y_{n}

$y_n$

N

$N$

p (x, y)

$p(x, y)$

p^{*} (x, y) = \sum_{i} \frac{1}{N} K (x - x_{i}, y - y_{i})

$p^*(x, y) = \sum_i \frac{1}{N}K(x - x_i, y - y_i)$

K

$K$

(x_{n}, y_{n})

$(x_n, y_n)$

p^{*} (x, y) = \frac{C}{N}

$p^*(x, y) = \frac{C}{N}$

C

$C$

(x, y)

$(x, y)$

„2 sygnały fizyczne, które byłyby zależne, ale nie skorelowane”: Powiedzmy, że włamujemy się do GPS taksówki w Nowym Jorku, aby zarejestrować (szerokość, długość) historię jej pozycji. Jest duża szansa, że łat., Długo. dane będą nieskorelowane - nie ma uprzywilejowanej „orientacji” chmury punktów. Ale to raczej nie będzie niezależne, ponieważ gdybyś został poproszony o odgadnięcie szerokości kabiny, lepiej byś zgadł, gdybyś znał długość geograficzną (możesz wtedy spojrzeć na mapę i wykluczyć [łac. długie] pary zajmowane przez budynki).

— fenenety

Kolejny przykład: dwie sinusoidy falują w liczbie całkowitej wielokrotności tej samej częstotliwości. Korelacja zerowa (podstawa Fouriera jest ortonormalna); ale jeśli znasz wartość jednego, istnieje tylko skończony zestaw wartości, które drugi może przyjąć (pomyśl o fabule Lissajousa).

— fenenety

Wnioskowanie, czy dwa sygnały są niezależne, jest bardzo trudne (biorąc pod uwagę skończone obserwacje) bez wcześniejszej wiedzy / założeń.

$X$ $Y$ $X$ $Y$ $Y$ $X$ $Y$

cov (f_{1} (X), f_{2} (Y)) = E (f_{1} (X), f_{2} (Y)) = 0

$\text{cov}(f_1(X),f_2(Y)) = E(f_1(X),f_2(Y)) = 0$

f_{1}

$f_1$

f_{2}

$f_2$

X

$X$

Y

$Y$

f_{1} (x) = f_{2} (x) = x

$f_1(x) = f_2(x) = x$

$E(X^iY^j)$

$X(t)$ $Y(t)$

S_{X, Y} (f), S_{X^{2}, Y} (f), S_{X, Y^{2}} (f) \dots

$S_{X,Y}(f),S_{X^2,Y}(f),S_{X,Y^2}(f) \dots$

f

$f$

Przykład :

X (t) = \sin (2 π f t)

$X(t) = \sin(2 \pi ft)$

Y (t) = \sin (2 π f t k)

$Y(t) = \sin( 2 \pi ftk)$

k \in Z

$k \in \mathbb{Z}$

k \neq 1

$k \neq 1$

X (t)

$X(t)$

Y (t)

$Y(t)$

\sin (k x)

$\sin(kx)$

\sin (x)

$\sin(x)$

Y (t) = f (X (t))

$Y(t) = f (X (t))$

f

$f$

$X(t)$ $Y(t)$

— rwolst
źródło

X_{x^{2}, Y} (f)

$X_{x^2, Y}(f)$

X^{2} (t)

$X^2(t)$

Y (t)

$Y(t)$