Co to jest próbkowanie według ważności?

Próbuję nauczyć się uczenia wzmacniającego, a ten temat jest dla mnie bardzo mylący. Wprowadziłem wprowadzenie do statystyki, ale po prostu nie mogłem zrozumieć tego tematu intuicyjnie.

Ważność próbkowania jest formą próbkowania z rozkładu innego niż rozkład odsetek, tak aby łatwiej uzyskać lepsze oszacowania parametru z rozkładu odsetek. Zazwyczaj zapewnia to oszacowanie parametru o mniejszej wariancji niż uzyskano by przez próbkowanie bezpośrednio z pierwotnego rozkładu o tej samej wielkości próbki.

Jest stosowany w różnych kontekstach. Zasadniczo pobieranie próbek z różnych rozkładów pozwala na pobranie większej liczby próbek w części interesującego rozkładu, który jest podyktowany przez aplikację (ważny region).

Jednym z przykładów może być to, że chcesz mieć próbkę, która zawiera więcej próbek z ogonów rozkładu, niż zapewniłoby to czysto losowe próbkowanie z rozkładu zainteresowania.

Artykuł w Wikipedii, który widziałem na ten temat, jest zbyt abstrakcyjny. Lepiej jest spojrzeć na różne konkretne przykłady. Zawiera jednak linki do interesujących aplikacji, takich jak Bayesian Networks.

Jednym z przykładów ważnego próbkowania w latach 40. i 50. XX wieku jest technika redukcji wariancji (forma metody Monte Carlo). Zobacz na przykład książkę Monte Carlo Methods autorstwa Hammersley and Handscomb opublikowaną jako Methuen Monograph / Chapman and Hall w 1964 r. I przedrukowaną w 1966 r., A później przez innych wydawców. Sekcja 5.4 książki dotyczy pobierania próbek ważności.

Ważność próbkowania jest symulacją lub metodą Monte Carlo przeznaczoną do przybliżania całek. Termin „pobieranie próbek” jest nieco mylący, ponieważ nie ma na celu dostarczenia próbek z danego rozkładu.

Intuicyjna próba ważności polega na tym, że dobrze zdefiniowana całka, taka jak można wyrazić jako oczekiwanie dla szerokiego zakresu rozkładów prawdopodobieństwa: I = E f [ H ( X ) ] = ∫ X H ( x ) f ( x

$$\mathfrak{I}=\int_\mathfrak{X} h(x)\,\text{d}x$$ gdzie f oznacza gęstość rozkładu prawdopodobieństwa, a H jest określony przez godzinę i f . (Zauważ, że H ( ⋅ ) zwykle różni się od h ( ⋅ ) .)Rzeczywiście, wybór H ( x ) = h ( x $$\mathfrak{I}=\mathbb{E}_f[H(X)]=\int_\mathfrak{X} H(x)f(x)\,\text{d}x$$ $f$$H$$h$$f$$H(\cdot)$$h(\cdot)$ prowadzi do równościH(x)f(x)=h(x)iI=Ef[H(X)]-pod pewnymi ograniczeniami dotyczącymi obsługif, co oznaczaf(x)>0,gdyh(x)≠0 $$H(x)=\dfrac{h(x)}{f(x)}$$ $H(x)f(x)=h(x)$$\mathfrak{I}=\mathbb{E}_f[H(X)]$$-$$f$$f(x)>0$$h(x)\ne 0$$-$. Stąd, jak zauważył W. Huber w swoim komentarzu, nie ma jedności w przedstawianiu całki jako oczekiwania, ale przeciwnie, nieskończony wachlarz takich reprezentacji, z których niektóre są lepsze od innych, gdy są kryterium porównania są przyjęte. Na przykład Michael Chernick wspomina o wyborze celu zmniejszenia wariancji estymatora.$f$

Po zrozumieniu tej podstawowej własności, realizacja tego pomysłu polega na prawie wielkich liczb, jak w innych metodach Monte Carlo, tj. Na symulacji [za pomocą generatora pseudolosowego] próbki iid dystrybuowane f oraz zastosowanie aproksymacji i = $(x_1,\ldots,x_n)$$f$które

$$\hat{\mathfrak{I}}=\frac{1}{n} \sum_{i=1}^n H(x_i)$$

1. jest obiektywnym estymatorem $\mathfrak{I}$
2. zbiega się prawie na pewno do $\mathfrak{I}$

W zależności od wyboru dystrybucji , powyższe Estymator I może lub nie może mieć skończoną wariancję. Jednak zawsze istnieją opcje f, które pozwalają na skończoną wariancję, a nawet na dowolnie małą wariancję (aczkolwiek wybory te mogą być niedostępne w praktyce). I istnieją również wybory F które sprawiają, że pobieranie próbek ważności estymatora I bardzo słaba zbliżenia I . Obejmuje to wszystkie wybory, w których wariancja staje się nieskończona, nawet jeśli w niedawnym artykule Chatterjee i Diaconis bada, jak porównać samplery ważności z nieskończoną wariancją. Poniższe zdjęcie pochodzi z$f$$\hat{\mathfrak{I}}$$f$$f$$\hat{\mathfrak{I}}$${\mathfrak{I}}$moja blogowa dyskusja na temat tego artykułu i ilustruje słabą zbieżność nieskończonych estymatorów wariancji.

Próbkowanie istotności z rozkładem ważności rozkład docelowy rozkładu Exp (1) i rozkład Exp (1/10) oraz funkcja zainteresowania . Prawdziwa wartość całki wynosi 10 .$h(x)=x$$10$

[Poniżej zamieszczono reprodukcję z naszej książki Monte Carlo Statistics Methods .]

$f$

$$\int_\mathfrak{X} h(x) f(x)\,\text{d}x$$

$p$${\mathcal{C}}(0,1)$$2$

$$p = \int_2^{+\infty} \; {1\over \pi(1 + x^2)} \; \text{d}x \;.$$ $p$ $${\hat{p}}_1 = {1\over m} \; \sum_{j=1}^m \; \mathbb{I}_{X_{j} > 2}$$ $X_1,\ldots,X_m$ $\sim$ $\; \mathcal{C}(0,1)$$p(1-p)/m$$0.127/m$$p=0.15$

${\mathcal{C}}(0,1)$

$${\hat{p}}_2 = {1\over 2m} \; \sum_{j=1}^m \; \mathbb{I}_{|X_{j}| > 2}$$ $p(1-2p)/2m$$0.052/m$

$[2,+\infty)$$p$$p$

$$p = {1\over 2} - \int_0^2 \; {1\over \pi(1 + x^2)} \; \text{d}x \;,$$ $h(X) = 2/\pi(1 + X^2)$$X \sim {\mathcal{U}}_{[0, 2]}$$p$ $${\hat{p}}_3 = {1\over 2} - {1\over m} \; \sum_{j=1}^m \; h(U_j)$$ $U_j \sim {\mathcal{U}}_{[0,2]}$${\hat{p}}_3$$(\mathbb{E}[h^2] - \mathbb{E}[h]^2)/m$$0.0285/m$$p$ $$p = \int_0^{1/2} \; {y^{-2}\over \pi(1 + y^{-2})} \; \text{d}y \;,$$ ${1\over 4} \; h(Y) = 1/2\pi(1 + Y^2)$$[0,1/2]$$p$ $${\hat{p}}_4 = {1\over 4 m} \; \sum_{j=1}^m \; h(Y_j)$$ $Y_j \sim {\mathcal{U}}_{[0,1/2]}$${\hat{p}}_{4}$$0.95 \; 10^{-4}/m$

${\hat{p}}_1$${\hat p}_4$$10^{-3}$$\sqrt{1000} \approx 32$$\hat p_1$$\blacktriangleright$