Statystyki bayesowskie podsumowują przekonania, podczas gdy statystyki częstokrzyskie podsumowują dowody. Bayesianie postrzegają prawdopodobieństwo jako stopień przekonania. Ten obejmujący i generatywny rodzaj rozumowania jest użyteczny przy formułowaniu hipotez. Na przykład Bayesianie mogą być w stanie dowolnie przypisać pewne prawdopodobieństwo, że księżyc jest zrobiony z zielonego sera, niezależnie od tego, czy astronauci rzeczywiście mogli tam podróżować, aby to sprawdzić. Hipotezę tę może poprzeć pomysł, że z daleka księżyc wyglądajak zielony ser. Częstokroć nie mogą w pojedynkę wyobrazić sobie hipotezy, która jest czymś więcej niż tylko szaleńcem, ani też nie mogą powiedzieć, że dowody faworyzują jedną hipotezę nad drugą. Nawet maksymalne prawdopodobieństwo generuje jedynie statystyki, które są „najbardziej zgodne z tym, co zaobserwowano”. Formalnie statystyki bayesowskie pozwalają nam myśleć nieszablonowo i proponować możliwe do obrony pomysły na podstawie danych. Ale jest to ściśle generowana hipoteza w przyrodzie.
Statystyki często wykorzystywane są w celu potwierdzenia hipotez. Gdy eksperyment jest przeprowadzany dobrze, statystyki częstokrzyskie dostarczają „niezależnego obserwatora” lub „empirycznego” kontekstu do ustaleń poprzez unikanie priory. Jest to zgodne z filozofią nauki Karla Poppera. Istotą dowodów nie jest rozpowszechnianie określonego pomysłu. Mnóstwo dowodów jest zgodne z nieprawidłowymi hipotezami. Dowody mogą jedynie fałszować przekonania.
Wpływ priorów jest ogólnie uważany za błąd w rozumowaniu statystycznym. Jak wiecie, możemy znaleźć wiele przyczyn, dla których tak się dzieje. Psychologicznie wiele osób uważa, że nasze uprzedzenia obserwatorów są wynikiem przeważających w naszym mózgu przeświadczeń, które powstrzymują nas przed naprawdę ważeniem tego, co widzimy. „Obserwacja chmur nadziei”, jak wielebna Matka powiedziała w Wydmie. Popper zaostrzył ten pomysł.
Miało to ogromne znaczenie historyczne w niektórych z największych eksperymentów naukowych naszych czasów. Na przykład John Snow skrupulatnie zebrał dowody na epidemię cholery i doszedł do wniosku, że cholera nie jest spowodowana deprywacją moralną, i wskazał, że dowody są wysoce zgodne z zanieczyszczeniem ścieków: zauważ, że nie doszedł do wniosku tym, odkrycia Snow poprzedzały odkrycie bakterii i nie było zrozumienia mechanistycznego ani etiologicznego. Podobny dyskurs znajduje się w Origin of Species. Nie wiedzieliśmy, czy księżyc jest zrobiony z zielonego sera, dopóki astronauci nie wylądowali na powierzchni i nie pobrali próbek. W tym momencie bocznianie bayesowscy przypisali bardzo, bardzo małe prawdopodobieństwo jakiejkolwiek innej możliwości, a internauci w najlepszym wypadku mogą powiedzieć, że próbki są wysoce niespójne z niczym innym, jak pyłem księżycowym.
Podsumowując, statystyki bayesowskie są podatne na generowanie hipotez, a statystyki częste - na potwierdzanie hipotez. Zapewnienie, że dane są gromadzone niezależnie w tych przedsięwzięciach, jest jednym z największych wyzwań, przed którymi stoją współczesni statystycy.