Słyszałem, że stosunki lub odwrotności zmiennych losowych często są problematyczne, ponieważ nie mają oczekiwań. Dlaczego?

25

Tytuł jest pytaniem. Powiedziano mi, że stosunki i inwersje zmiennych losowych często stanowią problem. Oznacza to, że oczekiwania często nie istnieją. Czy istnieje proste, ogólne wyjaśnienie tego?

— kjetil b halvorsen
źródło

25

Chciałbym przedstawić bardzo proste, intuicyjne wyjaśnienie. Sprowadza się do spojrzenia na zdjęcie: reszta tego postu wyjaśnia zdjęcie i wyciąga z niego wnioski.

Oto, co się sprowadza: gdy „masa prawdopodobieństwa” skoncentrowana jest w pobliżu $X=0$ , prawdopodobieństwo będzie zbyt duże w pobliżu $1/X\approx \pm \infty$ , co spowoduje, że jego oczekiwanie będzie niezdefiniowane.

Zamiast być w pełni ogólnym, skupmy się na zmiennych losowych $X$ które mają ciągłe gęstości $f_X$ w sąsiedztwie $0$ . Załóżmy, że $f_X(0)\ne 0$ . Wizualnie te warunki oznaczają, że wykres $f$ leży powyżej osi wokół $0$ :

Ciągłość wokół oznacza, że dla dowolnej dodatniej wysokości mniejszej niż i wystarczająco małej , możemy wykroić prostokąt pod tym wykresem, który jest wyśrodkowany wokół , ma szerokość i wysokość , jak pokazano. Odpowiada to wyrażeniu pierwotnego rozkładu jako mieszaniny równomiernego rozkładu (o wadze ) i wszystkiego, co pozostanie. $f_X$ $0$ $p$ $f_X(0)$ $\epsilon$ $x=0$ $2\epsilon$ $p$ $p\times 2\epsilon=2p\epsilon$

Innymi słowy, możemy myśleć o jako powstającym w następujący sposób: $X$

Z prawdopodobieństwem draw wartość z jednolitej dystrybucji. $2p\epsilon$ $(-\epsilon,\epsilon)$
W przeciwnym razie narysuj wartość z rozkładu, którego gęstość jest proporcjonalna do . (Jest to funkcja narysowana na żółto po prawej stronie). $f_X - p I_{(-\epsilon,\epsilon)}$

( jest funkcją wskaźnika). $I$

Etap pokazuje, że dla każdej , prawdopodobieństwo, że wynosi i przekracza . Równolegle jest to szansa, że przekroczy . Innymi słowy: napisanie dla funkcji przeżycia $(1)$ $0 \lt u \lt \epsilon$ $X$ $0$ $u$ $p u / 2$ $1/X$ $1/u$ $S$ $1/X$

S (x) = Pr (1 / X > x),

$S(x) = \Pr(1/X \gt x),$

obrazek pokazuje dla wszystkich . $S(x) \gt p / (2x)$ $x \gt 1/\epsilon$

Skończyliśmy teraz, ponieważ ten fakt dotyczący sugeruje, że oczekiwanie jest nieokreślone. $S$ Porównaj całki zaangażowane w obliczanie oczekiwanej dodatniej części , : $1/X$ $(1/X)_{+} = \max(0, 1/X)$

E [(1 / X)_{+}] = \int_{0}^{\infty} S (x) d x > \int_{1 / ϵ}^{x} S (x) d x > \int_{1 / ϵ}^{x} \frac{p}{2 x} d x = \frac{p}{2} \log (x ϵ) .

$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$

(Jest to argument czysto geometryczny: każda całka reprezentuje możliwy do zidentyfikowania dwuwymiarowy region, a wszystkie nierówności wynikają z ścisłych wtrąceń w tych obszarach. Rzeczywiście, nie musimy nawet wiedzieć, że ostateczna całka jest logarytmem: istnieją proste geometryczne argumenty wskazujące na tę całkowitą rozbieżność).

Ponieważ prawa strona różni się jako , różni. Sytuacja z ujemną częścią jest taka sama (ponieważ prostokąt jest wyśrodkowany wokół ), a ten sam argument pokazuje oczekiwanie, że ujemna część rozbieżna. W związku z tym oczekiwanie samego jest niezdefiniowane. $x\to\infty$ $E[(1/X)_{+}]$ $1/X$ $0$ $1/X$ $1/X$

Nawiasem mówiąc, takie same przedstawiono argumentów, że gdy jest prawdopodobieństwo skoncentrowane na jednym boku z , takie jak dowolny rozkład wykładniczy lub gamma (parametr kształtu mniejszy niż ), a następnie jeszcze pozytywne rozbieżna oczekiwania, ale oczekiwana ujemny wynosi zero. W tym przypadku oczekiwanie jest zdefiniowane, ale jest nieskończone. $X$ $0$ $1$

— Whuber
źródło

3

Czy mam rację podejrzewając, że założenie jest kluczowe dla wyniku? Mam na myśli przypadki, w których ma momenty co najmniej dla pewnego zakresu zaangażowanych parametrów, i wydaje się, że

f_{X} (0) \neq 0

$f_X(0)\neq 0$

1 / X

$1/X$

f_{X} (0) = 0

$f_X(0) = 0$

— dzieje

3

@Alecos Nie, założenie to nie jest kluczowe. To i ciągłość przy sprawiają, że argument jest prosty, ale żadne nie jest istotne. Rozważmy o gęstości proporcjonalna do o i . Jest to ciągłe przy ale nie oczekuje.

f

$f$

0

$0$

X

$X$

f_{X}

$f_X$

- 1 / \log (x)

$-1/\log(x)$

0 < x < 1 / e

$0 \lt x \lt 1/e$

f_{X} (0) = 0

$f_X(0)=0$

0

$0$

1 / X

$1/X$

— whuber

15

Stosunki i inwersje są w większości znaczące w przypadku nieujemnych zmiennych losowych, więc prawie na pewno przyjmę . Następnie, jeśli jest zmienną dyskretną, która przyjmuje wartość zero z prawdopodobieństwem dodatnim, będziemy dzielić z zerą z prawdopodobieństwem dodatnim, co tłumaczy, dlaczego oczekiwanie nie istnieje. $X \ge 0$ $X$ $1/X$

Teraz spójrz na przypadek rozkładu ciągłego, gdzie jest losową zmienną z funkcją gęstości . Zakładamy, że i że jest ciągłe (co najmniej zero). Następnie jest takie, że dla . Oczekiwaną wartość podaje $X \ge 0$ $f(x)$ $f(0)>0$ $f$ $\epsilon > 0$ $f(x) > \epsilon$ $0 \le x < \epsilon$ $1/X$ Teraz zmieńmy zmienną całkowania na , mamy

E \frac{1}{X} = \int_{0}^{\infty} \frac{1}{x} f (x) d x

$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$

u = 1 / x

$u=1/x$

, otrzymując

d u = - \frac{1}{x^{2}} d x

$du = -\frac1{x^2} \; dx$

Teraz, z założenia

na

więc

E \frac{1}{X} = - \int_{\infty}^{0} u f (\frac{1}{u}) (\frac{1}{u})^{2} d u = \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u}) d u

$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$

f (u) > ϵ

$f(u) > \epsilon$

[0, ϵ)

$[0,\epsilon)$

on

, używając tego mamy

f (\frac{1}{u}) > 1 / ϵ

$f(\frac1{u}) > 1/\epsilon$

(1 / ϵ, \infty)

$(1/\epsilon, \infty)$

pokazujące, że oczekiwanie nie istnieje. Przykładem spełniającym to założenie jest rozkład wykładniczy ze stopniem 1.

E \frac{1}{X} > ϵ \int_{1 / ϵ}^{\infty} \frac{1}{u} d u = \infty

$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$

Udzieliliśmy odpowiedzi na odwrotność, a co ze stosunkami? Niech będzie stosunkiem dwóch nieujemnych zmiennych losowych. Jeśli są niezależne, możemy zapisać $Z=Y/X$ więc prawie wszystko sprowadza się do pierwszego przypadku i nie ma wiele do powiedzenia. Co jeśli są zależne, z faktorowaniem gęstości połączeń jako Następnie otrzymujemy (stosując takie samo podstawienie jak powyżej)

E Z = E \frac{Y}{X} = E Y \cdot E \frac{1}{x}

$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$

f (x, y) = f (x ∣ y) g (y)

$f(x,y) = f(x \mid y) g(y)$

i możemy rozumować jak powyżej na wewnętrznej całce. Rezultat będzie taki, że jeśli gęstość warunkowa (podana

) jest dodatnia i ciągła przy wartości zerowej, dla zbioru

z dodatnim prawdopodobieństwem krańcowym oczekiwanie będzie nieskończone. Myślę, że nie będzie łatwo znaleźć przykłady, w których krańcowe oczekiwanie

jest nieskończone, ale oczekiwanie stosunku

jest skończone, chyba że istnieje idealna korelacja. Miło byłoby zobaczyć takie przykłady!

E \frac{Y}{X} = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{x} f (x ∣ y) d x g (y) d y = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u} ∣ y) d u g (y) d y

$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$

y

$y$

y

$y$

1 / X

$1/X$

Y / X

$Y/X$

— kjetil b halvorsen
źródło