Co miał na myśli Turing, mówiąc, że „maszyny nie mogą wywoływać niespodzianek” wynika z błędu?

Natknąłem poniżej rachunku przez Alana M. Turinga tutaj :

„Pogląd, że maszyny nie mogą wywoływać niespodzianek, jest, jak sądzę, spowodowany błędem, któremu szczególnie podoba się filozofów i matematyków. Jest to założenie, że jak tylko fakt zostanie przedstawiony umysłowi, wszystkie konsekwencje tego faktu stają się widoczne umysł jednocześnie z nim. Jest to bardzo przydatne założenie w wielu okolicznościach, ale zbyt łatwo można zapomnieć, że jest ono fałszywe ”.

Nie jestem rodzimym językiem angielskim. Czy ktoś mógłby to wyjaśnić zwykłym angielskim?

Matematycy i filozofowie często zakładają, że maszyny (a tutaj prawdopodobnie oznacza „komputery”) nie mogą nas zaskoczyć. Jest tak, ponieważ zakładają, że gdy poznamy jakiś fakt, natychmiast rozumiemy każdą konsekwencję tego faktu. Jest to często przydatne założenie, ale łatwo zapomnieć, że jest fałszywe.

Mówi, że systemy z prostymi, skończonymi opisami (np. Maszyny Turinga) mogą wykazywać bardzo skomplikowane zachowanie i że zaskakuje to niektórych ludzi. Możemy łatwo zrozumieć koncepcję maszyn Turinga, ale potem zdajemy sobie sprawę, że mają one skomplikowane konsekwencje, takie jak nierozstrzygalność problemu zatrzymania i tak dalej. Termin techniczny tutaj brzmi: „wiedza nie jest zamknięta w ramach dedukcji”. Oznacza to, że możemy poznać trochę faktów  , ale nie wiem,  , choć implikuje  .$A$$B$$A$$B$

Szczerze mówiąc, nie jestem pewien, czy argument Turinga jest bardzo dobry. Być może mam korzyść z pisania prawie 70 lat po Turingu i rozumiem, że typowy matematyk wie znacznie więcej o logice matematycznej niż za czasów Turinga. Wydaje mi się jednak, że matematycy w większości znają ideę prostych systemów o złożonym zachowaniu. Na przykład każdy matematyk zna definicję grupy , która składa się tylko z czterech prostych aksjomatów. Ale nikt - dziś czy później - nie pomyślałby: „Ach. Znam cztery aksjomaty, dlatego znam każdy fakt dotyczący grup”. Podobnie aksjomaty Peano podają bardzo krótki opis liczb naturalnych, ale nikt, kto je czyta, nie myśli: „Racja, znam teraz każde twierdzenie o liczbach naturalnych.

Tylko przykład - biorąc pod uwagę zasady szachowe, każdy powinien od razu wybrać najlepszą strategię gry w szachy.

Oczywiście to nie działa. Nawet ludzie nie są równi, a komputery mogą nas przewyższyć ze względu na ich lepsze zdolności do wyciągania wniosków z faktów.

Jest to idea pojawiania się , kiedy złożone zachowanie wynika z interakcji stosunkowo prostych reguł. Istnieje wiele takich przykładów, jak wskazuje ten link. Kolonie owadów, stada ptaków, ławice ryb i oczywiście świadomość. W stadzie ptaków lub ławicy ryb każda osoba w roju podejmuje decyzje wyłącznie na podstawie innych, którzy bezpośrednio ją otaczają, ale kiedy zgrupujesz grupę tych osób zgodnie z tymi zasadami, zaczniesz widzieć bardziej skoordynowane zachowanie niż można się spodziewać bez planu wyższego poziomu. Jeśli wejdziesz na YouTube i obejrzysz demonstracje rojów robotów, widzicie, że wszyscy unikają się nawzajem i działają zgodnie. Zaskakujące jest to, że nie trzeba tego robić za pomocą jednego centralnego komputera koordynującego zachowanie każdego robota, ale zamiast tego można to zrobić za pomocą robotyki roju, w której, podobnie jak owady, ptaki lub ryby, każdy robot podejmuje lokalne decyzje, które prowadzą do nowej koordynacji.

Inną ciekawą demonstracją zachowań wschodzących jest Gra Życia Conwaya . Zasady gry są niezwykle proste, ale mogą prowadzić do bardzo fascynujących rezultatów

Kuszącym argumentem przeciwko zdolności komputerów do zdobywania ludzkiej inteligencji jest stwierdzenie, że skoro potrafią robić dokładnie to, do czego zostali zaprogramowani, muszą jedynie wykazywać inteligencję, z jaką je programujemy. Gdyby to była prawda, nie spodziewalibyśmy się również stosunkowo prostego zachowania neuronów, które dałyby początek ludzkiej inteligencji. Jednak, o ile możemy powiedzieć, jest to przypadek, a świadomość jest wyłaniającą się właściwością przetwarzania neuronowego. Jestem pewien, że Turing chciałby zobaczyć, co stało się dzisiaj dzięki zastosowaniu sztucznych sieci neuronowych

Ludzie mogą założyć, że jeśli piszę program i rozumiem algorytm całkowicie, i nie ma błędów, powinienem wiedzieć, jaki byłby wynik tego programu i że nie powinno mnie to dziwić.

Turing mówi (i zgadzam się), że tak nie jest: wyniki mogą być zaskakujące. Rozwiązanie problemu sprzedawcy podróżującego może być zaskakujące. Najlepszy sposób na zbudowanie pełnego sumatora może być zaskakujący. Najlepszy ruch w szachach może być zaskakujący.