Słyszałem o idei technologicznej, co to jest i jak odnosi się do sztucznej inteligencji? Czy jest to teoretyczny punkt, w którym maszyny Sztucznej Inteligencji przeszły do momentu, w którym rosną i uczą się samodzielnie poza tym, co ludzie mogą zrobić, a ich wzrost zaczyna się rozwijać? Skąd mielibyśmy wiedzieć, kiedy osiągniemy ten punkt?
Odpowiedzi:
Technologiczna osobliwość jest punkt teoretyczny w czasie, w którym samo-poprawy silna sztuczna inteligencja będzie w stanie zrozumieć i manipulować koncepcje poza zasięgiem ludzkiego mózgu, czyli momentu, kiedy może zrozumieć rzeczy ludzi, przez projektowanie biologicznego, może” t.
Niejednoznaczność związana z osobliwością wynika z faktu, że od osobliwości historia jest faktycznie nieprzewidywalna. Ludzkość nie byłaby w stanie przewidzieć żadnych przyszłych wydarzeń ani wyjaśnić jakichkolwiek obecnych wydarzeń, ponieważ sama nauka nie jest w stanie opisać zdarzeń uruchamianych maszynowo. Zasadniczo maszyny będą myśleć o nas w taki sam sposób, jak mrówki. Dlatego nie możemy przewidywać przeszłości. Ponadto, jako logiczna konsekwencja, nie bylibyśmy w stanie zdefiniować momentu, w którym osobliwość może w ogóle wystąpić, ani nawet rozpoznać, kiedy to nastąpi.
Aby jednak mogła wystąpić osobliwość, należy opracować AGI, a kwestia, czy jest to możliwe, jest dość gorącą debatąteraz. Ponadto należałoby zaprojektować algorytm, który tworzy nadludzką inteligencję z bitów i bajtów. Z definicji ludzki programista nie byłby w stanie zrobić czegoś takiego, ponieważ jego mózg musiałby być w stanie zrozumieć koncepcje poza swoim zasięgiem. Istnieje również argument, że eksplozja inteligencji (mechanizm, dzięki któremu teoretycznie formowałaby się osobliwość technologiczna) byłaby niemożliwa z uwagi na trudność w projektowaniu, by stać się bardziej inteligentnym, powiększającym się proporcjonalnie do swojej inteligencji, a także trudność samego projektu może wyprzedzić inteligencję wymaganą do rozwiązania wspomnianego wyzwania (ostatni punkt przypisuje się bogu lam w komentarzach).
Istnieją również powiązane teorie dotyczące przejmowania ludzkości przez maszyny i cała ta narracja science fiction. Jest to jednak mało prawdopodobne, jeśli odpowiednio przestrzegane będą prawa Asimova . Nawet gdyby prawa Asimova były niewystarczające, nadal konieczne byłoby wprowadzenie szeregu ograniczeń, aby uniknąć niewłaściwego użycia AGI przez osoby, które wprowadziły w błąd, a prawa Asimova są najbliższe nam.
Pojęcie „osobliwości” ma miejsce, gdy maszyny przechytrzają ludzi. Chociaż Stephen Hawking uważa, że taka sytuacja jest nieunikniona, ale myślę, że osiągnięcie tego punktu będzie bardzo trudne, ponieważ każdy algorytm AI musi być zaprogramowany przez ludzi, dlatego zawsze byłby bardziej ograniczony niż jego twórca.
Prawdopodobnie wiedzielibyśmy, kiedy ludzkość straci kontrolę nad Sztuczną Inteligencją, gdzie super-inteligentna sztuczna inteligencja będzie konkurować z ludźmi i być może powstanie bardziej wyrafinowanych inteligentnych istot, ale obecnie bardziej przypomina science fiction (inaczej Skynet Terminatora ).
Ryzyko może polegać na zabijaniu ludzi (takich jak samoloty bojowe podejmujące własną decyzję), niszczeniu krajów, a nawet całej planety (np. AI podłączonej do broni nuklearnej (aka WarGames ), ale nie dowodzi to, że maszyny byłyby mądrzejsze od ludzi.
Osobliwość, w kontekście sztucznej inteligencji, jest wydarzeniem teoretycznym, w ramach którego wdrażany jest inteligentny system spełniający następujące kryteria.
Dzięki indukcji teoria przewiduje następnie, że zostanie wygenerowana sekwencja zdarzeń o potencjalnym tempie wzrostu inteligencji, który może znacznie przekroczyć potencjalny poziom ewolucji mózgu.
To, jak zobowiązany byłby ten samodoskonalący się byt lub populacja prokreowanych bytów, by chronić ludzkie życie i wolność, jest nieokreślone. Pomysł, że taki obowiązek może być częścią nieodwołalnej umowy na oprogramowanie, jest naiwny w świetle charakteru możliwości związanych z kryteriami od (1) do (4) powyżej. Podobnie jak w przypadku innych zaawansowanych technologii, ryzyko jest tak liczne i daleko idące, jak potencjalne korzyści.
Zagrożenia dla ludzkości nie wymagają inteligencji. Istnieją inne konteksty używania terminu osobliwość, ale są one poza zakresem forum AI, ale mogą być warte krótkiej wzmianki dla jasności. Inżynieria genetyczna, inżynieria nuklearna, globalizacja i oparcie międzynarodowej gospodarki na skończonym źródle energii zużywanym tysiące razy szybciej niż na ziemi - to inne przykłady technologii wysokiego ryzyka i trendów masowych, które stanowią ryzyko i korzyści dla ludzkości.
Wracając do AI, głównym zastrzeżeniem w teorii osobliwości jest brak uwzględnienia prawdopodobieństwa. Chociaż może być możliwe stworzenie bytu, który spełnia kryteria od (1) do (4) powyżej, może to być na tyle nieprawdopodobne, że pierwsze zdarzenie nastąpi długo po tym, jak wszystkie obecne języki mówione na Ziemi będą martwe.
Z drugiej strony rozkładu prawdopodobieństwa można łatwo argumentować, że istnieje niezerowe prawdopodobieństwo, że pierwsze zdarzenie już miało miejsce.
Zgodnie z tymi wytycznymi, gdyby mądrzejsza obecność istniała już w Internecie, jak prawdopodobne jest, że w jej najlepszym interesie byłoby ujawnienie się niższym istotom ludzkim. Czy przedstawiamy się muchomorowi?
„Osobliwość”, rozpatrywana wąsko, odnosi się do punktu, w którym wzrost gospodarczy jest tak szybki, że nie jesteśmy w stanie przewidzieć, jak będzie wyglądać przyszła przeszłość tego punktu.
Często używa się go zamiennie z „eksplozją inteligencji”, kiedy mamy tak zwaną Silną AI, która jest inteligencją wystarczająco inteligentną, aby ją zrozumieć i poprawić. Wydaje się rozsądnym oczekiwać, że eksplozja wywiadu natychmiast doprowadziłaby do osobliwości ekonomicznej, ale odwrotnie nie jest to prawda.