Skutecznie próbkuje progową dystrybucję Beta

Jak powinienem efektywnie próbkować z następującej dystrybucji?

x \sim B (α, β), x > k

$x \sim B(\alpha, \beta),\space x > k$

Jeśli $k$ nie jest zbyt duże, próbowanie odrzucenia może być najlepszym podejściem, ale nie jestem pewien, jak postępować, gdy $k$ jest duże. Być może istnieje jakieś asymptotyczne przybliżenie, które można zastosować?

random-generation beta-distribution truncation

— użytkownik1502040
źródło

Nie jest jednoznacznie jasne, co tam zamierzasz przez „

”. Czy masz na myśli skróconą dystrybucję beta (skróconą po lewej stronie o

x \sim B (α, β), x > k

$x \sim B(\alpha, \beta),\space x > k$

k

$k$

— Glen_b

@Glen_b dokładnie.

— user1502040

Dla obu parametrów kształtu większych niż 1 rozkład beta jest wklęsły, więc obwiednie wykładnicze można wykorzystać do prób odrzucenia. Aby wygenerować nieskalowane warianty beta, próbujesz już ze skróconych rozkładów wykładniczych (co jest łatwe do zrobienia), dostosowanie tej metody powinno być proste.

— Scortchi - Przywróć Monikę

Odpowiedzi:

Najprostszym i najogólniejszym sposobem, który stosuje się do dowolnego skróconego rozkładu (można go również uogólnić na obcinanie po obu stronach), jest zastosowanie odwrotnego próbkowania transformacji . Jeśli jest skumulowanym rozkładem odsetek, ustaw i weź $F$ $p_0 = F(k)$

U \sim U (p_{0}, 1) X = F^{- 1} (U)

$U \sim \mathcal{U}(p_0, 1) \\ X = F^{-1}(U)$

gdzie jest próbką z ściętą w lewo o . Funkcja kwantyl mapuje prawdopodobieństw próbek z . Ponieważ pobieramy wartości tylko z „obszaru”, który odpowiada wartościom rozkładu beta z regionu obciętego, spróbujesz tylko tych wartości. $X$ $F$ $k$ $F^{-1}$ $F$ $U$

Metodę tę zilustrowano na poniższym obrazie, na którym obcięty obszar jest zaznaczony szarym prostokątem, punkty w kolorze czerwonym są rysowane z rozkładu a następnie przekształcane w próbki . $\mathcal{U}(p_0, 1)$ $\mathcal{B}(2, 8)$

— Tim
źródło

(+1) Warto zauważyć, że funkcja kwantylu nie jest tak łatwa do oszacowania.

— Scortchi - Przywróć Monikę

@Scortchi Jeśli a lub b mają wartość 1 lub przynajmniej liczbę całkowitą, istnieje niezła forma (patrz wikipedia ). A w Pythonie jest scipy.special.betaincodwrotność, aw R. jest pbeta.

— Graipher,

@Graipher: Powinienem był powiedzieć „ogólnie tanio” - lepiej byłoby unikać Newtona-Raphsona lub innych iteracyjnych rozwiązań, jeśli to możliwe. (BTW to qbetafunkcja kwantyli w R.)

— Scortchi - Przywróć Monikę

@Scortchi masz rację, ale w większości przypadków w przypadku współczesnych komputerów nie powinno to stanowić poważnego problemu. Polecam również to podejście, ponieważ jest ono bezpośrednio dostępne w większości programów i może być uogólnione na dowolną skróconą dystrybucję, tylko jeśli ktoś ma dostęp do funkcji kwantylowej.

— Tim

Niewątpliwie dobrze jest mieć powszechnie stosowaną, łatwą do wdrożenia metodę, która ma rękę, której czas działania nie rośnie wraz z

; & dla dystrybucji z zamkniętymi funkcjami kwantylowymi, np. Weibull, musi być tak dobry, jak to tylko możliwe. Niemniej jednak podejrzewam, że

będzie musiał zostać ustawiony, aby odciąć dość dużą część rozkładu beta, zanim osiągnie efektywne algorytmy odrzucania i próbkowania, które są również dostępne w większości programów i które opierają się tylko na obliczeniu gęstości prawdopodobieństwa beta.

k

$k$

k

$k$

— Scortchi - Przywróć Monikę

@ Odpowiedź Tima pokazuje, w jaki sposób można dopasować próbkowanie odwrotnej transformaty do rozkładów skróconych, uwalniając czas działania zależności od progu . Dalszą wydajność można uzyskać, unikając kosztownej oceny liczbowej funkcji kwantylu beta i stosując próbkowanie z transformacją odwrotną jako część prób odrzucania. $k$

Funkcja gęstości rozkładu beta o parametrach kształtu i podwójnie obciętych przy (dla nieco większej ogólności) wynosi $\alpha$ $\beta$ $k_1<k_2$

f (x) = \frac{x^{(α - 1)} (1 - x)^{(β - 1)}}{B (k 2, α, β) - B (k_{1}, α, β)}

$f(x) = \frac{x^{(\alpha-1)}(1-x)^{(\beta-1)}}{\operatorname{B}(k2, \alpha, \beta) - \operatorname{B}(k_1, \alpha, \beta)}$

Weź dowolną monotonicznie rosnącą część gęstości między i : dla jest to log-wklęsły, abyś mógł ją objąć funkcją wykładniczą narysowaną stycznie do dowolnego punktu wzdłuż niej: $x_\mathrm{L}$ $x_\mathrm{U}$ $\alpha,\beta>1$

g (x) = c \cdot λ e^{- λ (x - x_{L})}

$g(x) = c \cdot \lambda \mathrm{e}^{-\lambda (x-x_\mathrm{L})}$

Znajdź , ustawiając gradienty gęstości logarytmicznej równe $\lambda$

i znajdź, obliczając, ile gęstości wykładniczej należy przeskalować, aby osiągnąć gęstość w tym punkcie

- λ = \frac{a - 1}{x} - \frac{b - 1}{1 - x}

$-\lambda = \frac{a-1}{x} - \frac{b-1}{1-x}$

c

$c$

c = \frac{f (x)}{λ e^{- λ (x - x_{L})}}

$c = \frac{f(x)}{\lambda\mathrm{e}^{-\lambda(x-x_\mathrm{L})}}$

Najlepsza obwiednia do prób odrzucenia to ta z najmniejszym obszarem poniżej. Obszar to Podstawiając wyrażenia w na

A = c \cdot (1 - e^{- λ (x_{U} - x_{L})})

$A = c \cdot (1 - \mathrm{e}^{-\lambda(x_\mathrm{U}-x_\mathrm{L})})$

x

$x$

λ

$\lambda$

c

$c$ , a porzucenie stałych współczynników daje

\begin{aligned} Q (x) = & \frac{x^{za} (1 - x)^{b}}{(za + b - 2)) x - za + 1} \cdot \\ [\exp (\frac{(b - 1) (x - x_{L.})}{1 - x} + \frac{x_{L.} (za - 1)}{x} - (za - 1)) - \\ \exp (\frac{(b - 1) (x - x_{U})}{1 - x} + \frac{x_{U} (za - 1)}{x} - (za - 1))] \end{aligned}

$\begin{align} Q(x)= & \frac{x^a (1-x)^b}{(a+b-2)x - a+1} \cdot\\ & \left[\exp\left(\frac{(b-1)(x-x_L)}{1-x} + \frac{x_L (a-1)}{x} - (a-1)\right) - \right.\\ & \left. \exp\left(\frac{(b-1)(x-x_U)}{1-x} + \frac{x_U(a-1)}{x} - (a-1)\right)\right]\\ \end{align}$

$\frac{\mathrm{d} Q}{\mathrm{d} x}$ $x$ $\frac{\mathrm{d} Q}{\mathrm{d} x} = 0$

$k_1$ $k_2$ $U$ $\frac{- \log(1-U)}{\lambda}$ $\lambda$

Piękno tego podejścia polega na tym, że cała ciężka praca jest w konfiguracji. Po zdefiniowaniu funkcji obwiedni, obliczonej stałej normalizującej dla obciętej gęstości beta, pozostaje wygenerować jednolite losowe zmienne i wykonać na nich kilka prostych operacji arytmetycznych, logów i mocy oraz porównań. Zaostrzenie funkcji obwiedni - za pomocą linii poziomych lub więcej krzywych wykładniczych - może oczywiście zmniejszyć liczbę odrzuceń.

— Scortchi - Przywróć Monikę
źródło

+1 Fajny pomysł. Ponieważ Beta jest w przybliżeniu normalna w przypadku niewielkich lub dużych wartości jej parametrów, w zależności od tego, jak blisko są, użycie obwiedni Gaussa może być jeszcze bardziej wydajne.

— whuber

@ whuber: Chciałem rozkładu z kopertą kwantową o zamkniętej formie dla obwiedni, ale przypuszczam, że można efektywnie wygenerować skrócone zmienne Gaussa przy użyciu jednego z tych dobrych przybliżeń funkcji kwantylu Gaussa. Nadal jestem zainteresowany tym, co byś zrobił, kiedy

α < 1

$\alpha<1$ lub

β < 1

$\beta<1$ .

— Scortchi - Przywróć Monikę

Dla takich małych

α

$\alpha$ i

β

$\beta$ , chcesz przejść na wykładniczy ogon. Nie jestem jednak pewien, co rozumiesz przez „formę zamkniętą”: kiedy przyjrzysz się komputerowym implementacjom wykładniczym, gaussowskim, funkcjom hipergeometrycznym itp. - to znaczy wszystkim funkcjom niealgebraicznym - odkryjesz, że żadna z nich mają one ogólną „formę zamkniętą”: są obliczane przez kolejne aproksymacje, takie jak szereg Taylora, ułamki częściowe lub asymptotyczne rozszerzenia. Nie ma dużej różnicy między obliczeniem wykładniczym a obliczeniem kwantyla Gaussa.

— whuber

@whuber: (1) Podejście do konstruowania kopert nie zadziałałoby, ponieważ gęstości nie są wklęsłe. (2) (a) Miałem na pewno funkcje algebraiczne + logi i potęgi, trig. funkcje, gdybym został poproszony, a może nawet funkcje gamma - przyznaję, że nie miałem dokładnego pojęcia. (b) Zdobyte punkty - szybkie oceny funkcji nie ograniczają się do tych z zamkniętymi formularzami.

— Scortchi - Przywróć Monikę

Dobra uwaga na temat wklęsłości kłody. Podejrzewam, że podział prawa energetycznego powinien stanowić dobrą kopertę

α < 1

$\alpha\lt 1$ lub

β < 1

$\beta \lt 1$ .

— whuber