Zazwyczaj teorii prawdopodobieństwa uczy się z aksjomatami Kolgomorova. Czy Bayesianie akceptują również aksjomaty Kołmogorowa?

Moim zdaniem interpretacja prawdopodobieństwa Coxa-Jaynesa stanowi rygorystyczną podstawę prawdopodobieństwa Bayesa:

• Cox, Richard T. „Prawdopodobieństwo, częstotliwość i rozsądne oczekiwania”. American Journal of Physics 14.1 (1946): 1-13.
• Jaynes, Edwin T. Teoria prawdopodobieństwa: logika nauki. Prasa uniwersytecka Cambridge, 2003.
• Beck, James L. „Identyfikacja systemu bayesowskiego na podstawie logiki prawdopodobieństwa”. Kontrola strukturalna i monitorowanie zdrowia 17.7 (2010): 825–847.

Aksjomaty logiki prawdopodobieństwa wyprowadzone przez Coxa to:

1. $\Pr[b|a]\ge0$
2. (P2): (funkcja negacji)$\Pr[\overline{b}|a]=1-\Pr[b|a]$
3. (P3): (funkcja koniunkcji)$\Pr[b\cap c|a]=\Pr[c|b\cap a]\Pr[b|a]$

Aksjomaty P1-P3 sugerują, co następuje (Beck, James L. „Identyfikacja systemu bayesowskiego na podstawie logiki prawdopodobieństwa.” Kontrola strukturalna i monitorowanie stanu zdrowia 17.7 (2010): 825-847):

4. (P4): a) ; b) ; c)$\Pr[b|b\cap c] = 1$Pr [ b | c ] ∈ [ 0 , 1 $\Pr[\overline{b}|b\cap c] = 0$$\Pr[b|c]\in[0,1]$
5. (P5): a) , b) , gdzie oznacza, że jest zawarte w , a oznacza, że jest równoważne .Pr [ a | c ∩ ( a ⇔ b ) ] = Pr [ b | c ∩ ( a ⇔ b ) ] a ⇒ b a c a ⇔ b a $\Pr[a|c \cap (a \Rightarrow b)]\le\Pr[b|c\cap(a \Rightarrow b)]$$\Pr[a|c\cap(a \Leftrightarrow b)] = \Pr[b|c\cap(a \Leftrightarrow b)]$$a \Rightarrow b$$a$$c$$a \Leftrightarrow b$$a$$b$
6. (P6):$\Pr[a \cup b|c] = \Pr[a|c]+\Pr[b|c]-\Pr[a\cap b|c]$
7. (P7): Zakładając, że twierdzenie stwierdza, że ​​jedno i tylko jedno zdanie jest prawdziwe, to: b 1 , … , b $c$$b_1,\ldots,b_N$
   • a) Twierdzenie o marginalizacji:$\Pr[a|c]=\sum_{n=1}^N P[a \cap b_n|c]$
   • b) Twierdzenie o całkowitym prawdopodobieństwie:$\Pr[a|c] = \sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]$
   • c) Twierdzenie Bayesa: Dla :Pr [ b k | a ∩ c ] = Pr [ a | b k ∩ c ] Pr [ b k | c $k=1,\ldots,N$$\Pr[b_k|a\cap c] = \frac{\Pr[a|b_k\cap c]\Pr[b_k|c]}{\sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]}$

Wskazują na logikę Kołmogorowa, która może być postrzegana jako szczególny przypadek.

W mojej interpretacji bayesowskiego punktu widzenia wszystko zawsze (domyślnie) zależy od naszych przekonań i naszej wiedzy.

Poniższe porównanie zaczerpnięto z Becka (2010): identyfikacja systemu bayesowskiego na podstawie logiki prawdopodobieństwa

Bayesowski punkt widzenia

Prawdopodobieństwo jest miarą prawdopodobieństwa stwierdzenia opartego na określonych informacjach.

1. Rozkłady prawdopodobieństwa reprezentują stany wiarygodnej wiedzy o układach i zjawiskach, a nie ich nieodłączne właściwości.
2. Prawdopodobieństwo modelu jest miarą jego prawdopodobieństwa względem innych modeli w zestawie.
3. Pragmatycznie określa niepewność z powodu brakujących informacji bez twierdzenia, że ​​wynika to z naturalnej losowości natury.

Punkt widzenia Frequentist

Prawdopodobieństwo to względna częstotliwość występowania z natury losowego zdarzenia w długim okresie .

1. Rozkłady prawdopodobieństwa są nieodłącznymi właściwościami zjawisk losowych.
2. Ograniczony zakres, np. Brak znaczenia dla prawdopodobieństwa modelu.
3. Zakłada się nieodłączną losowość , ale nie można jej udowodnić.

Jak uzyskać aksjomaty Kołmogorowa z powyższych aksjomatów

Poniżej sekcja 2.2 [Beck, James L. "Identyfikacja systemu bayesowskiego na podstawie logiki prawdopodobieństwa." Kontrola strukturalna i monitorowanie stanu zdrowia 17.7 (2010): 825-847.] Podsumowano:

W poniższym przykładzie wykorzystujemy: miarę prawdopodobieństwa na podzbiorze A zbioru skończonego X :$\Pr(A)$$A$$X$

1. [K1]:$\Pr(A)\ge 0, \forall A \subset X$
2. [K2]:$\Pr(X) = 1$
3. [K3]: jeśli A i B są rozłączne.$\Pr(A\cup B)=\Pr(A)+\Pr(B), \forall A,B \subset X$$A$$B$

Aby wyprowadzić (K1-K3) z aksjomatów teorii prawdopodobieństwa, [Beck, 2010] wprowadził propositon który stwierdza x ∈ X i określa model prawdopodobieństwa dla x . [Beck, 2010] ponadto wprowadza Pr ( A ) = Pr [ x ∈ A | π ] .$\pi$$x\in X$$x$$\Pr(A) = \Pr[x\in A|\pi]$

• P1 oznacza K1, i c = $b=\{x\in A\}$$c=\pi$
• K2 wynika z ; P4 (a) i gatunku stwierdza, że x ∈ X .$\Pr[x\in X|\pi]=1$$\pi$$x\in X$
• K3 można wyprowadzić z P6: i B są rozłączne, co oznacza, że x ∈ A i x ∈ B wykluczają się wzajemnie. Dlatego K3: Pr ( x ∈ A ∪ B | π ) = Pr ( x ∈ A | π ) + Pr ( x ∈ B | π $A$$B$$x\in A$$x\in B$ $\Pr(x\in A\cup B|\pi)=\Pr(x\in A|\pi)+\Pr(x\in B|\pi)$

Po opracowaniu teorii prawdopodobieństwa konieczne było wykazanie, że luźniejsze koncepcje odpowiadające nazwie „prawdopodobieństwo” mierzyły się z rygorystycznie zdefiniowaną przez nich koncepcją. „Subiektywne” prawdopodobieństwa Bayesa zostały wzięte pod uwagę przez Ramseya i de Finetti, którzy niezależnie wykazali, że kwantyfikacja stopnia przekonania podlega ograniczeniom porównywalności i spójności (twoje przekonania są spójne, jeśli nikt nie jest w stanie stworzyć holenderskiej książki przeciwko tobie) być prawdopodobieństwem.

Różnice między aksjatyzacjami są w dużej mierze kwestią gustu w kwestii tego, co powinno być tym, co zdefiniowane, a co pochodną. Ale policzalna addytywność jest jedną z Kołmogorowa, która nie jest pochodną Coxa ani Finettiego, i była kontrowersyjna. Niektórzy Bayesianie (np. De Finetti i Savage) zatrzymują się na skończonej addytywności, więc nie akceptują wszystkich aksjomatów Kołmogorowa. Mogą umieszczać jednolite rozkłady prawdopodobieństwa w nieskończonych przedziałach bez niewłaściwości. Inni podążają za Villegasem, zakładając także ciągłość monotonną i uzyskując z tego policzalną addytywność.

Ramsey (1926), „Prawda i prawdopodobieństwo”, w Ramsey (1931), Podstawy matematyki i inne eseje logiczne

de Finetti (1931), „Sul znaczącoato soggettivo della probabilità”, Fundamenta Mathematicæ , 17 , s. 298–329

Villegas (1964), „O prawdopodobieństwie jakościowym -algebras”, Ann. Matematyka Statystyk. , 35 , 4.$\sigma$