Oczekiwana wartość logarytmu naturalnego

22

Wiem $E(aX+b) = aE(X)+b$ z stałych, więc podane , to łatwo rozwiązać. Wiem również, że nie można tego zastosować, gdy jest to funkcja nieliniowa, jak w tym przypadku , i aby to rozwiązać, muszę dokonać aproksymacji z Taylor's. Więc moje pytanie brzmi: w jaki sposób mogę rozwiązać $a,b$ $E(X)$ $E(1/X) \neq 1/E(X)$ ?? czy zbliżam się również do Taylora? $E(\ln(1+X))$

mathematical-statistics

— Matt
źródło

4

Tak, w takim przypadku możesz zastosować metodę delta.

— Michael R. Chernick

5

Powinieneś także przyjrzeć się nierówności Jensena.

— kjetil b halvorsen

27

Na papierze

YW Teh, D. Newman i M. Welling (2006), A Collapsesed Variational Bayesian Inference Algorytm for Latent Dirichlet Allocation , NIPS 2006 , 1353–1360.

drugiego rzędu rozwinięcie Taylora wokół oznacza przybliżenie : $x_0=\mathbb{E}[x]$ $\mathbb{E}[\log(x)]$

E [\log (x)] \approx \log (E [x]) - \frac{V [x]}{2 E [x]^{2}} .

$\mathbb{E}[\log(x)]\approx\log(\mathbb{E}[x])-\frac{\mathbb{V}[x]}{2\mathbb{E}[x]^2} \>.$

To przybliżenie wydaje się działać całkiem dobrze w przypadku ich zastosowania.

Lekkie zmodyfikowanie tego, aby dopasować do pytania, daje liniowość oczekiwań,

E [\log (1 + x)] \approx \log (1 + E [x]) - \frac{V [x]}{2 (1 + E [x])^{2}} .

$\mathbb{E}[\log(1+x)]\approx\log(1+\mathbb{E}[x])-\frac{\mathbb{V}[x]}{2(1+\mathbb{E}[x])^2} \>.$

Może się jednak zdarzyć, że lewa lub prawa strona nie istnieje, podczas gdy druga istnieje, dlatego należy zachować ostrożność przy stosowaniu tego przybliżenia.

— użytkownik1149913
źródło

3

Co ciekawe, można go użyć do uzyskania przybliżenia funkcji digamma.

— prawdopodobieństwo prawdopodobieństwa

6

Ponadto, jeśli nie potrzebujesz dokładnego wyrażenia dla , często granica wynikająca z nierówności Jensena jest wystarczająca: $\text{E}[\log(X + 1)]$

\log [E (X) + 1] \geq E [\log (X + 1)]

$\log [\text{E}(X) + 1] \geq\text{E}[\log(X + 1)]$

— dsaxton
źródło

chciałem tylko dodać: jeśli nie jest możliwe bezpośrednie obliczenie, a patrzysz na pojedynczą zmienną

, nierówność Jensen dotyczy jedynej opcji, aby uzyskać jakikolwiek użyteczny wynik. podczas gdy sugerowane przybliżenie Taylora może rzeczywiście działać w praktyce, nie ma teoretycznego uzasadnienia, które można by wykorzystać do uzasadnienia usunięcia pozostałych terminów. (powiedziawszy to: należy pamiętać, że nieskończenie taylorowa seria ln (1 + x) i tak zbiega się tylko w promieniu | x | <1).)

X

$X$

— chRrr

Myślę, że powinno być

ponieważ

jest wklęsła.

\geq

$\ge$

\log

$\log$

— Deep North

5

Załóżmy, że ma gęstość prawdopodobieństwa . Zanim zaczniesz aproksymację, pamiętaj, że dla dowolnej mierzalnej funkcji możesz udowodnić, że $X$ $f_X$ $g$ w tym sensie, że jeśli pierwsza całka istnieje, to również druga i mają tę samą wartość.

E [g (X)] = \int g (X) d P = \int_{- \infty}^{\infty} g (x) f_{X} (x) d x,

$E[g(X)]=\int g(X)\,dP = \int_{-\infty}^\infty g(x)\,f_X(x)\,dx \, ,$

— Zen
źródło

1

Jeśli druga całka istnieje. Nie musi. Weź dystrybucję Cauchy i

g (x) = x^{2}

$g(x)=x^2$ .

— mpiktas

Dodałbym drugą warstwę pedanterii, mówiąc, że naprawdę potrzebujesz

E [| g (X) |] < \infty

$E[|g(X)|]<\infty$ aby oczekiwania były dobrze określone.

— prawdopodobieństwo prawdopodobieństwa

2

@mpiktas - To oczekiwanie faktycznie istnieje, ale jest nieskończone. Lepszym przykładem jest

g (x) = x

$g(x)=x$ dla dystrybucji Cauchy'ego. Oczekiwanie to zależy od tego, jak dolna i górna granica integracji zmierza do nieskończoności.

— probabilityislogic

2

@prob: Nie, nie potrzebujesz tego warunku w pierwszym komentarzu, a nawet w sytuacji, która może być bardzo istotna dla tego pytania! (+1 do twojego drugiego komentarza, który również chciałem skomentować.)

— kardynał

2

@prob: It is sufficient, but if you compare your first comment to your second one, you'll see why it's not necessary! :-)

— cardinal

4

There are two usual approaches:

If you know the distribution of $X$ , you may be able to find the distribution of $\ln(1+X)$ and from there find its expectation; alternatively you may be able to use the law of the unconscious statistician directly (that is, integrate $\ln(1+x) f_{X}(x)$ over the domain of $x$ ).
As you suggest, if you know the first few moments you can compute a Taylor approximation.

— Glen_b -Reinstate Monica
źródło