Czy osobliwość należy brać na poważnie?

Termin „Osobliwość” jest często używany w głównych mediach do opisu technologii wizjonerskiej. Został wprowadzony przez Ray Kurzweil w popularnej książce The Singularity Is Near: When Humans Transcend Biology (2005).

W swojej książce Kurzweil przedstawia perspektywę potencjalnej przyszłości ludzkości, która obejmuje nanotechnologię, komputery, modyfikację genetyczną i sztuczną inteligencję. Twierdzi, że prawo Moore'a zezwoli komputerom na gwałtowny wzrost, który spowoduje superinteligencję.

Czy osobliwość technologiczna jest czymś, co poważnie traktują twórcy sztucznej inteligencji, czy też teoria ta to tylko popularna popularność?

Mogę powiedzieć, że wśród badaczy AI, z którymi współpracuję, o wiele bardziej powszechne jest postrzeganie go jako dzikiej spekulacji niż jako ustalonego faktu.

Potwierdzają to badania ankietowe badaczy AI , z których 80% uważa, że ​​silne formy AI pojawią się „za ponad 50 lat” lub „nigdy”, a zaledwie kilka procent uważa, że ​​takie formy AI są „bliskie”.

Deweloperzy oprogramowania to nie to samo, co badacze AI, i odkryłem, że mit Singularity jest znacznie bardziej rozpowszechniony wśród programistów. Ma to fajny charakter: komputery stają się coraz szybsze, w pewnym momencie będą szybsze niż mózgi, w tym momencie po prostu symulujemy mózgi. Niedługo potem symulujemy coś lepszego niż mózg.

Podejrzewam, że powody, dla których badacze AI są mniej optymistyczni, są zakorzenione w fakcie, że nadal nie mamy dobrego zrozumienia ludzkiej inteligencji, a nawet wystarczającej wiedzy mózgu, aby ją zasymulować. Na przykład w ciągu ostatnich dwóch tygodni odkryliśmy nieznane wcześniej typy komórek mózgowych . Daje to (prawidłowe) wrażenie, że nawet gdybyśmy mieli wystarczająco szybki komputer, wcale nie jesteśmy blisko możliwości dokładnego symulowania ludzkiego mózgu. Naprawdę nie wiemy, czym jest ludzki mózg.

Nawet jeśli o tym wiemy, symulacje są z konieczności stratne. Możemy nie mieć dobrych technik symulacji. Nawet jeśli mieliśmy dobre techniki, możemy symulować mózg i odkryć, że nasza symulacja nie zachowuje się zgodnie z oczekiwaniami z powodów, których nie rozumiemy. Jest to bardzo prawdopodobne przy symulacji nowych systemów. W pewnym sensie zwolennicy Osobliwości przypominają ludzi przewidujących, że kontrola pogody była blisko w latach 40. XX wieku. W końcu mogliśmy już symulować proste wzorce pogodowe i generować prognozy, które działały. O ile bardziej skomplikowane może być generowanie doskonałych prognoz?

Istnieje co najmniej jeden bardzo ważny i poważny naukowiec AI, który najwyraźniej wierzy w stworzenie prawdziwej sztucznej inteligencji ogólnej i być może superinteligencji: Jürgen Schmidhuber, który jest współautorem LSTM , pośród wielu innych ważnych wkładów. W rzeczywistości niedawno założył NNAISENSE w tym ostatecznym celu, jakim jest zbudowanie sztucznej inteligencji ogólnej ogólnego przeznaczenia. W swoim przemówieniu Kiedy kreatywne maszyny wyprzedzają człowieka , na TEDxLausanne Schmidhuber mówi o osobliwości (znanej również jako omega ). Zobacz także jego artykuł internetowy Czy historia jest zbieżna? Jeszcze raz? (2012) lub artykuł2006: Świętujemy 75 lat sztucznej inteligencji - historia i perspektywy: kolejne 25 lat (2007).

Aby znaleźć się na tej samej stronie, należy podać odniesienia do „osobliwości technologicznej”, ponieważ obejmuje ona wiele dziedzin (matematyka, statystyka, filozofia nauki, epistemologia, socjologia, polityka, ekonomia, by wymienić tylko kilka).

Zasadniczo, gdy weźmie się pod uwagę koncepcje związane z przym + ai (gdzie przym = {słaby, silny, pełny, wąski, ...}), powiew spekulacji jest dość duży i in fieri , więc jako programista (gdzie dla programisty I zakładam, że pracujesz nad problemami związanymi z kodowaniem, a nie kierownikiem projektu w google x itp.) Nie martwiłbym się, chyba że podczas przerwy napijesz się herbaty z kolegami.