Czy prawdopodobieństwo a posteriori może być> 1?

We wzorze Bayesa:

P (x | a) = \frac{P (a | x) P (x)}{P (a)}

$P(x|a) = \frac{P(a|x) P(x)}{P(a)}$

czy prawdopodobieństwo tylne może przekraczać 1? $P(x|a)$

Myślę, że jest to możliwe, jeśli na przykład przyjmujemy, że i oraz . Ale nie jestem tego pewien, bo co to znaczy, że prawdopodobieństwo jest większe niż jeden? $0 < P(a) < 1$ $P(a) < P(x) < 1$ $P(a)/P(x) < P(a|x) < 1$

probability bayesian conditional-probability

— Thomas Moore
źródło

Należy precyzyjnie definiować notację. Nie jest jasne, co reprezentuje

P (\cdot)

$P(\cdot)$ . Jeśli

P (\cdot)

$P(\cdot)$ jest (a) rozkładem prawdopodobieństwa (w którym to przypadku

a

$a$ i

x

$x$ są zestawami) lub (b) funkcją masy w przestrzeni dyskretnej, to odpowiedzi, które już masz, są zasadniczo poprawne. Jeśli

P (\cdot)

$P(\cdot)$ jest rozumiane jako funkcja gęstości, to nie jest prawdą, że

P (x ∣ a) \leq 1

$P(x \mid a) \le 1$ . Powodem tego jest to, że wszystkie trzy typy funkcji spełniają regułę Bayesa. Notacja

P (\cdot)

$P(\cdot)$ zwykle odnosi się do dystrybucji, ale użycie małych liter w argumentach sugeruje gęstość.

— facet

P (x ∣ a) = \frac{P (x, a)}{P (a)} \leq \frac{P (a)}{P (a)} = 1

$P(x\mid a) = \frac{P(x,a) }{P(a)} \le \frac{P(a) }{P(a)} =1$ więc prawdopodobieństwo tylne nie może przekroczyć

1

$1$ . (Gęstość tylna to inna sprawa - wiele ciągłych rozkładów ma gęstości przekraczające

1

$1$ dla niektórych wartości)

— Henry

Jeśli obliczony tylny przekracza jeden, popełniłeś gdzieś błąd.

— Emil M. Friedman,

@EmilMFriedman, twoja odpowiedź jest dwuznaczna (iz tego powodu potencjalnie szkodliwa), ponieważ nie wskazuje, czy odnosi się do prawdopodobieństwa lub gęstości

— whuber

Bariera jedności w prawdopodobieństwie może i została przełamana. Zobacz mój post AT stats.stackexchange.com/questions/4220/… .

— Mark L. Stone

Odpowiedzi:

Zakładane warunki nie mają zastosowania - nigdy nie może być prawdą, że przez definicję prawdopodobieństwa warunkowego : $P(a)/P(x) < P(a|x)$

$P(a|x) = P(a\cap x) / P(x) \leq P(a) / P(x)$

— khol
źródło

Nie, prawdopodobieństwo tylnego prawdopodobieństwa nie może przekroczyć jednego. Byłoby to naruszeniem normującego aksjomatu teorii prawdopodobieństwa. Stosując zasady prawdopodobieństwa warunkowego, musisz mieć:

P (a | x) = \frac{P (a, x)}{P (x)} ⩽ \frac{P (a)}{P (x)} .

$\mathbb{P}(a | x) = \frac{\mathbb{P}(a,x)}{\mathbb{P}(x)} \leqslant \frac{\mathbb{P}(a)}{\mathbb{P}(x)}.$

Oznacza to, że nie możesz mieć określonych warunków nierówności. (Nawiasem mówiąc, jest to dobre pytanie: dobrze, że badasz prawa prawdopodobieństwa w poszukiwaniu problemów. Pokazuje to, że badasz te sprawy z większym stopniem rygorystyczności niż większość studentów.)

Dodatkowa uwaga: warto wspomnieć o tej sytuacji jeszcze raz, która dotyczy logicznego priorytetu różnych cech prawdopodobieństwa. Pamiętaj, że teoria prawdopodobieństwa zaczyna się od zestawu aksjomatów, które charakteryzują rzeczywistą miarę prawdopodobieństwa. Z tych aksjomatów możemy wyprowadzić „reguły prawdopodobieństwa”, które są twierdzeniami wywodzącymi się z aksjomatów. Te zasady prawdopodobieństwa muszą być zgodne z aksjomatami, aby były ważne. Jeśli kiedykolwiek odkryjesz, że reguła prawdopodobieństwa prowadzi do sprzeczności z jednym z aksjomatów (np. Prawdopodobieństwo przestrzeni próbki jest większa niż jeden), nie fałszuje to aksjomatu - fałszuje regułę prawdopodobieństwa . Dlatego też, nawet jeśli to było w przypadku reguła Bayesa możeprowadzić do prawdopodobieństwa a posteriori większego niż jeden (tak nie jest), nie oznacza to, że możesz mieć prawdopodobieństwo a posteriori większe niż jeden; oznaczałoby to po prostu, że reguła Bayesa nie jest prawidłową zasadą prawdopodobieństwa.

— Przywróć Monikę
źródło

Czy końcowym licznikiem powinna być P (x)?

— BallpointBen

Wciąż pokazuję P (a) dla mnie

— BallpointBen

Ma to być P (a) w liczniku. Nierówność pokazuje PO, że nie może mieć P (a | x)> P (a) / P (x), jak to określił w swoim pytaniu.

— Przywróć Monikę

Formuła Bayesa nie może dać wartości dla przekraczających . Intuicyjnym sposobem na sprawdzenie tego jest wyrażenie za pomocą prawa całkowitego prawdopodobieństwa jako podając, że który pokazuje, że licznik jest tylko jednym z wyrażeń w sumie w mianowniku, a więc ułamek nie może przekroczyć wartości. $\displaystyle P(B \mid A) = \frac{P(A\mid B)P(B)}{P(A)}$ $P(B\mid A)$ $1$ $P(A)$

P. (ZA) = P. (ZA ∣ b) P. (b) + P. (ZA ∣ b^{do}) P. (b^{do})

$P(A) = P(A\mid B)P(B) + P(A\mid B^c)P(B^c)$

P. (b ∣ ZA) = \frac{P. (ZA ∣ b) P. (b)}{P. (ZA)} = \frac{P. (ZA ∣ b) P. (b)}{P. (ZA ∣ b) P. (b) + P. (ZA ∣ b^{do}) P. (b^{do})}

$P(B \mid A) = \frac{P(A\mid B)P(B)}{P(A)} = \frac{P(A\mid B)P(B)}{P(A\mid B)P(B) + P(A\mid B^c)P(B^c)}$

1

$1$

— Dilip Sarwate
źródło

+1 to dla mnie najłatwiejszy dowód.

— Mehrdad

@Mehrdad Thanks. Pozostałe odpowiedzi zasadniczo dowodzą, że prawdopodobieństwo warunkowe

nie może przekraczać

przez co

nie może przekraczać

ponieważ

i tak musi być, że

P (B ∣ A)

$P(B\mid A)$

1

$1$

P (A ∣ B) P (B) = P \A \cap B)

$P(A\mid B)P(B) = P\A\cap B)$

P (A)

$P(A)$

A \cap B \subset A

$A\cap B \subset A$

P \A \cap B) \leq P (A)

$P\A\cap B) \leq P(A)$ I mają mały związek per se do związku o wzorze Bayesa (jak to jest stosowane w celu uzyskania danych statystycznych prawdopodobieństwa posteriori prawdopodobieństw z poprzednich).

— Dilip Sarwate