Istnieją dwa główne podejścia do zrozumienia tego pytania. Pierwszy (i uważam, że najbardziej udany) to literatura na temat uprzedzeń poznawczych (zobacz ten link LessWrong ).
Wiele napisano na ten temat i byłoby zbyt zuchwałe, aby streścić je tutaj. Ogólnie oznacza to po prostu, że maszyneria poznawcza, którą ludzie są wyposażeni w procesie ewolucji, wykorzystuje wiele heurystyk i skrótów, aby podejmować decyzje o przeżyciu bardziej efektywnie. Te decyzje dotyczące przeżycia dotyczyły głównie środowisk rodowych, z którymi rzadko się spotykamy, i dlatego można spodziewać się wzrostu częstotliwości, z jaką mamy do czynienia ze scenariuszami, w których nasza heurystyka zawodzi.
Na przykład ludzie są świetni w generowaniu przekonań. Jeśli postawienie nowego przekonania kosztuje bardzo niewiele, ale niezastosowanie przekonania, które doprowadziłoby do przeżycia, wiąże się z wysokimi kosztami (nawet jeśli przekonanie jest ogólnie niepoprawne), można spodziewać się wielu racjonalizacji i niskich barier dowodowych na przekonanie. twierdzenia (co widzimy u ludzi). Otrzymujesz również takie zachowania, jak dopasowanie prawdopodobieństwa z podobnych powodów.
Długo można opisać wszystkie fascynujące sposoby, w jakie odbiegamy od optymalnego podejmowania decyzji. Sprawdź ostatnią książkę Kahnemana Myślenie, szybko i wolno oraz książkę Dana Ariely'ego Przewidywalnie nieracjonalną, aby znaleźć popularne, czytelne relacje z wieloma przykładami. Polecam przeczytanie niektórych sekwencji w LessWrong, aby uzyskać bardziej zasadnicze omówienie stronniczości poznawczej oraz wiele interesujących przeglądów literatury akademickiej dotyczących kroków, które można podjąć, aby uniknąć tych uprzedzeń w pewnych okolicznościach.
Inne podejście do tego problemu jest (myślę) znacznie bardziej wątłe. Jest to pojęcie, że prawdopodobieństwo samo w sobie nie jest poprawną teorią normatywną do radzenia sobie z niepewnością. Nie mam teraz czasu na komentowanie niektórych źródeł, ale zaktualizuję swoją odpowiedź później, omawiając ten pogląd.