Czy zmienne losowe

Czy możemy powiedzieć coś o zależności zmiennej losowej i funkcji zmiennej losowej? Na przykład, czy $X^2$ zależy od $X$ ?

probability random-variable

— Rohit Banga
źródło

Jeśli

X

$X$ i

f (X)

$f(X)$ są niezależne, to

f (X)

$f(X)$ jest prawie na pewno stałe. Oznacza to, że istnieje takie, że

a

$a$

P (f (X) = a) = 1

$\mathbb P(f(X) = a) = 1$

— kardynał

@cardinal-dlaczego nie udzielić takiej odpowiedzi ?

— Karl

@cardinal, chciałem poprosić Johna o rozwinięcie jego komentarza. Uznałem za pewnik, że rozważana funkcja była daną, deterministyczną funkcją. W rezultacie napisałem argument za podanym przez ciebie wynikiem. Wszelkie uwagi są mile widziane i doceniane.

— NRH

Tak,

X^{2}

$X^2$ zależy od

X

$X$ , ponieważ jeśli znasz

X

$X$ to znasz

X^{2}

$X^2$ .

X

$X$ i

Y

$Y$ są niezależne, jeśli tylko wiedza o wartość

X

$X$ nie wpływa na znajomość rozkładu

Y

$Y$ .

— Henry

@iamrohitbanga: Jeśli

prawie na pewno. Zatem

jest niezależny od

w tym bardzo szczególnym przypadku.

X \in {- 1, 1}

$X \in \{-1,1\}$

X^{2} = 1

$X^2 = 1$

X

$X$

X^{2}

$X^2$

— kardynał

Odpowiedzi:

Oto dowód komentarza @ kardynała z niewielkim zdziwieniem. Jeśli i są niezależne, to $X$ $f(X)$ Biorącdaje równanie który ma dwa rozwiązania 0 i 1. Zatem

\begin{array}{lcl} P (X \in A \cap f^{- 1} (B)) & = & P (X \in A, f (X) \in B) \\ = & P (X \in A) P (f (X) \in B) \\ = & P (X \in A) P (X \in f^{- 1} (B)) \end{array}

$\begin{array}{lcl} P(X \in A \cap f^{-1}(B)) & = & P(X \in A, f(X) \in B) \\ & = & P(X \in A) P(f(X) \in B) \\ & = & P(X \in A) P(X \in f^{-1}(B)) \end{array}$

A = f^{- 1} (B)

$A = f^{-1}(B)$

P (f (X) \in B) = P (f (X) \in B)^{2},

$P(f(X) \in B) = P(f(X) \in B)^2,$

dla wszystkich

. Zasadniczo nie można powiedzieć więcej. Jeśli

są niezależne, to

jest zmienną taką, że dla dowolnego

jest albo w

albo w

z prawdopodobieństwem 1. Aby powiedzieć więcej, potrzeba więcej założeń, np. Że zestawy singletonów

są mierzalne.

P (f (X) \in B) \in {0, 1}

$P(f(X) \in B) \in \{0, 1\}$

B

$B$

X

$X$

f (X)

$f(X)$

f (X)

$f(X)$

B

$B$

B

$B$

B^{c}

$B^c$

{b}

$\{b\}$

Jednak szczegóły na poziomie teoretycznym miary nie wydają się być głównym przedmiotem zainteresowania PO. Jeśli jest rzeczywisty, a jest funkcją rzeczywistą (i używamy Borel -algebra, powiedzmy), to biorąc wynika, że funkcja rozkładu dla rozkładu przyjmuje tylko wartości 0 i 1, stąd jest przy którym przeskakuje od do a $X$ $f$ $\sigma$ $B = (-\infty, b]$ $f(X)$ $b$ $0$ $1$ $P(f(X) = b) = 1$ .

Na koniec dnia odpowiedź na pytanie PO jest taka, że i są ogólnie zależne i niezależne tylko w bardzo szczególnych okolicznościach. Co więcej, miara Diraca zawsze kwalifikuje się do rozkładu warunkowego biorąc pod uwagę , co jest formalnym sposobem stwierdzenia, że znając wtedy wiesz dokładnie, co $X$ $f(X)$ $\delta_{f(x)}$ $f(X)$ $X = x$ $X = x$ $f(X)$ jest. Ta specjalna forma zależności ze zdegenerowanym rozkładem warunkowym jest charakterystyczna dla funkcji zmiennych losowych.

— NRH
źródło

(+1) Przepraszamy. Gdy tworzyłem odpowiedź, nie otrzymałem aktualizacji, którą przesłałeś. :)

— kardynał

Lemat : Niech będzie zmienną losową i niech będzie funkcją (mierzalną Borela) tak, że i są niezależne. Zatem jest stałe prawie na pewno. Oznacza to, że pewne takie, że . $X$ $f$ $X$ $f(X)$ $f(X)$ $a \in \mathbb R$ $\mathbb P(f(X) = a) = 1$

Dowód jest poniżej; ale po pierwsze kilka uwag. Mierzalność Borela jest tylko warunkiem technicznym, aby zapewnić, że możemy przypisać prawdopodobieństwa w rozsądny i spójny sposób. „Prawie na pewno” to także tylko kwestia techniczna.

Istotą lematu jest to, że jeśli chcemy, aby i były niezależne, wówczas naszymi jedynymi kandydatami są funkcje postaci . $X$ $f(X)$ $f(x) = a$

Porównaj to z przypadkiem funkcji , w których i są nieskorelowane . To jest znacznie, znacznie słabszy stan. Rzeczywiście, rozważ dowolną zmienną losową ze średnią zero, skończonym absolutnym trzecim momentem i która jest symetryczna względem zera. Weź , jak w przykładzie w pytaniu. Następnie $f$ $X$ $f(X)$ $X$ $f(x) = x^2$ , więc i są nieskorelowane. $\mathrm{Cov}(X,f(X)) = \mathbb E Xf(X) = \mathbb E X^3 = 0$ $X$ $f(X) = X^2$

Poniżej podaję najprostszy dowód, jaki mogłem wymyślić dla lematu. Zrobiłem to niezwykle gadatliwie , aby wszystkie szczegóły były tak oczywiste, jak to możliwe. Jeśli ktoś widzi sposoby na jego ulepszenie lub uproszczenie, chętnie to wiem.

Idea dowodu : Intuicyjnie, jeśli znamy , to znamy . Musimy więc znaleźć jakieś zdarzenie w , algebrze sigma generowanej przez , która wiąże naszą wiedzę o z wiedzą o . Następnie wykorzystujemy tę informację w połączeniu z założoną niezależnością i aby pokazać, że nasze dostępne opcje dla zostały poważnie ograniczone. $X$ $f(X)$ $\sigma(X)$ $X$ $X$ $f(X)$ $X$ $f(X)$ $f$

Dowód lematu : Przypomnij sobie, że i są niezależne wtedy i tylko wtedy, gdy dla wszystkich i , . Niech dla pewnej mierzalnej funkcji borela $X$ $Y$ $A \in \sigma(X)$ $B \in \sigma(Y)$ $\renewcommand{\Pr}{\mathbb P}\Pr(X \in A, Y \in B) = \Pr(X \in A) \Pr(Y \in B)$ $Y = f(X)$ $f$ takie, że i są niezależne. Zdefiniuj . Następnie i od $X$ $Y$ $\newcommand{\o}{\omega}A(y) = \{\o: f(X(\o)) \leq y\}$

A (y) = {ω : X (ω) \in f^{- 1} ((- \infty, y])}

$A(y) = \{\o: X(\o) \in f^{-1}((-\infty,y])\}$

(- \infty, y]

$(-\infty,y]$

f

$f$

f^{- 1} ((- \infty, y])

$f^{-1}((-\infty,y])$

A (y) \in σ (X)

$A(y) \in \sigma(X)$

σ (X)

$\sigma(X)$

$X$ $Y$ $A(y) \in \sigma(X)$

P (X \in A (y), Y \leq y) = P (X \in A (y)) P (Y \leq y) = P (f (X) \leq y) P (f (X) \leq y),

$\Pr(X \in A(y), Y \leq y) = \Pr(X \in A(y)) \Pr(Y \leq y) = \Pr(f(X) \leq y) \Pr(f(X) \leq y) \>,$ and this holds for all

y \in R

$y \in \mathbb R$ . But, by definition of

A (y)

$A(y)$

P (X \in A (y), Y \leq y) = P (f (X) \leq y, Y \leq y) = P (f (X) \leq y) .

$\Pr(X \in A(y), Y \leq y) = \Pr(f(X) \leq y, Y \leq y) = \Pr(f(X) \leq y) \> .$ Combining these last two, we get that for every

y \in R

$y \in \mathbb R$ ,

P (f (X) \leq y) = P (f (X) \leq y) P (f (X) \leq y),

$\Pr(f(X) \leq y) = \Pr(f(X) \leq y) \Pr(f(X) \leq y) \>,$ so

P (f (X) \leq y) = 0

$\Pr(f(X) \leq y) = 0$ or

P (f (X) \leq y) = 1

$\Pr(f(X) \leq y) = 1$ . This means there must be some constant

a \in R

$a \in \mathbb R$ such that the distribution function of

f (X)

$f(X)$ jumps from zero to one at

a

$a$ . In other words,

f (X) = a

$f(X) = a$ almost surely.

NB: Note that the converse is also true by an even simpler argument. That is, if $f(X) = a$ almost surely, then $X$ and $f(X)$ are independent.

— cardinal
źródło

+1, I should be sorry - to steal your argument is not very polite. It's great that you spelled out the difference between independence and being uncorrelated in this context.

— NRH

No "stealing" involved, nor impoliteness. :) Though many of the ideas and comments are similar (as you'd expect for a question like this!), I think the two posts are nicely complementary. In particular, I like how at the beginning of your post you didn't constrain yourself to real-valued random variables.

— cardinal

@NRH accepting your answer as the initial part of your proof seems easier to grasp for a novice like me. Nevertheless +1 cardinal for your answer.

— Rohit Banga