Czy osobliwość technologiczna może wystąpić tylko w przypadku superinteligencji?

W rozdziale 26 książki Artificial Intelligence: A Modern Approach (wydanie trzecie) podręcznik omawia „technologiczną osobliwość”. Cytuje IJ Gooda, który napisał w 1965 roku:

Niech ultra-inteligentną maszynę zdefiniujemy jako maszynę, która może znacznie przewyższyć wszelkie intelektualne działania każdego człowieka, jakkolwiek bystrego. Ponieważ projektowanie maszyn jest jedną z tych czynności intelektualnych, ultra-inteligentna maszyna może zaprojektować jeszcze lepsze maszyny; wówczas niewątpliwie nastąpiłaby „eksplozja inteligencji”, a inteligencja człowieka byłaby daleko w tyle. Tak więc pierwsza ultra-inteligentna maszyna jest ostatnim wynalazkiem, jakiego człowiek kiedykolwiek potrzebował, pod warunkiem, że maszyna jest wystarczająco posłuszna, aby powiedzieć nam, jak ją kontrolować.

W dalszej części podręcznika masz następujące pytanie:

26.7 - IJ Good twierdzi, że inteligencja jest najważniejszą cechą i że budowanie ultra inteligentnych maszyn zmieni wszystko. Czujący gepard odpowiada, że ​​„Właściwie prędkość jest ważniejsza; gdybyśmy mogli zbudować ultraszybkie maszyny, to by wszystko zmieniło”, a czujący słoń twierdzi: „Oboje się mylicie; potrzebujemy bardzo mocnych maszyn”. Co o nich sądzisz? argumenty?

Wydaje się, że pytanie z podręcznika jest domyślnym argumentem przeciwko IJ Goodowi. Dobrem może być traktowanie inteligencji jako wartościowej, po prostu dlatego, że siła człowieka tkwi w tej cechy zwanej „inteligencją”. Ale inne cechy mogłyby być jednakowo cenione (szybkość lub siła), a czujące istoty mogą szalenie spekulować na temat swoich maksymalnych cech przez „maszynę”.

To sprawia, że ​​zastanawiam się, czy osobliwość mogłaby wystąpić, gdybyśmy zbudowali maszyny, które nie maksymalizowałyby inteligencji, ale zamiast tego maksymalizowały jakąś inną cechę (maszynę, która zawsze zwiększa swoją siłę, lub maszynę, która zawsze zwiększa prędkość). Tego rodzaju maszyny mogą być równie transformacyjne - ultraszybkie maszyny mogą szybko rozwiązywać problemy z powodu „brutalnej siły”, a ultra mocne maszyny mogą wykorzystywać swoją surową moc do różnych zadań fizycznych. Być może maszyna ultra-X nie jest w stanie zbudować innej maszyny ultra-X (ponieważ IJ Good traktował projektowanie maszyn jako działalność intelektualną), ale ciągle doskonaląca się maszyna pozostawiałaby swoich twórców daleko w tyle i zmusiłaby ich do pozostania zależy od tego.

Czy osobliwości technologiczne są ograniczone do ultra-inteligencji? Czy osobliwości technologiczne mogą być powodowane przez maszyny, które nie są „silną AI”, ale nadal są „ultra” optymalizatorami?

To byłoby nie dla szybkości lub siły, jeśli masz super silny byt, ale nie może badać nowych materiałów, będzie szybko ograniczony, to samo dla prędkości, Zasadniczo potrzebujesz czegoś z ich pola, aby je ulepszyć, co sprawia, że niekontrolowana poprawa niemożliwa.

Chociaż mamy już super mocne i super szybkie maszyny, są to samochody, ciężarówki, prasy hydrauliczne, egzoszkielety przemysłowe itp. Ale chociaż możemy budować lepsze dzięki wykorzystaniu starych, wciąż musimy badać różne rzeczy które nie mogą być poprawione przez stare.

To, czego potrzebujemy dla osobliwości, to dziedzina, w której ulepszenie ułatwia dalszą poprawę. I nie znam dziedziny, w której nie wymaga to inteligencji. Jeśli istnieje, może istnieć osobliwość, która nie jest oparta na inteligencji.

„Monte Carlo” wydaje się obecnie najlepszą metodą na kreatywność algorytmiczną. (tzn. maszyna dokonuje losowych wyborów i sprawdza, czy prowadzą do czegoś przydatnego).

Choć wydaje się oczywiste, że twórcze połączenia utworzone ze zrozumienia są lepsze od losowych, jeśli maszyna jest wystarczająco szybka, powinna być w stanie wygrać dzięki czystej „brutalnej sile”.

tj. ewolucja, przed ludzkim przewodnictwem, nie była oparta na inteligencji. * Ewolucja opierała się raczej na przypadkowych mutacjach, które są albo korzystne, albo szkodliwe.

* Zastrzeżenie polega na tym, że ludzie tworzący algorytmy i zmieniający geny (w laboratorium lub poprzez hodowlę zwierząt i ogrodnictwo) mogą zawierać nową formę ewolucji, która jest zakorzeniona w ludzkiej inteligencji i pragnieniu.

To może nie być to, czego szukasz, ale technicznie tak. Chociaż nie ze względu na szybkość i siłę. Ale można losowo zgadywać nowe rozwiązania matematyczne / fizyczne / chemiczne, aby stać się bardziej wydajnymi w zgadywaniu losowym (w zasadzie wszystko, co pozwala maszynie na szybsze obliczenia i być może symulację efektu tych odkryć), a tym samym technicznie osiągnąć coś podobnego do osobliwości, bez konieczności mieć jakąkolwiek Inteligencję w rzeczywistości (lub tylko na poziomie ludzkim), ponieważ możecie po prostu brutalnie zmusić wszystkich.

Czy to jest wydajne? Nie, nawet nie jest to w jakikolwiek sposób wykonalne. Czy to działa? Technicznie tak.

Byłoby to swego rodzaju osobliwość, ponieważ ciągle się poprawia, ale nie musiałaby poprawiać swojej inteligencji.

Oczywiście, niektóre odkrycia mogą pozwolić na większą inteligencję, ale załóżmy, że nie odnoszą się one do siebie.