Kiedy osobliwość AI przejmie władzę, co pozostanie nam do zrobienia?

Od czasu pierwszej rewolucji przemysłowej maszyny podejmują pracę ludzi, a automatyzacja jest częścią ludzkiej ewolucji przez ostatnie 3 stulecia, ale w sumie te maszyny zastępują prace mechaniczne, ryzykowne i wymagające niskich kwalifikacji, takie jak linia produkcyjna fabryki samochodów.

Ale ostatnio, wraz z pojawieniem się komputerów i udoskonaleniem sztucznej inteligencji oraz dążeniem do znalezienia osobliwości (czyli komputera zdolnego do myślenia szybciej, lepiej, bardziej kreatywnie i taniej niż człowiek, zdolnego do samodoskonalenia), nasz przyszłość doprowadzi do zastąpienia nie tylko pracowników o niskich kwalifikacjach, ale także o wysokich umiejętnościach. Mówię o przyszłości nie za daleko, kiedy sztuczna inteligencja i maszyny zastąpią artystów, projektantów, inżynierów, prawników, dyrektorów generalnych, filmowców, polityków, a nawet programistów. Niektórzy się tym ekscytują, ale szczerze mówiąc, trochę się boję.

Nie mówię tu o kwestii pieniędzy, chociaż nie jestem fanem tego pomysłu, załóżmy, że uniwersalny dochód został wdrożony i załóżmy, że działa dobrze. Nie mówiąc już o „ świecie Terminatora, w którym maszyny będą prowadzić wojnę przeciwko ludziom ”, załóżmy, że są też całkowicie przyjaźni na zawsze.

Problem dotyczy motywacji ludzi. Kiedy osobliwość AI przejmie władzę, co pozostanie nam do zrobienia? Codziennie przez cały dzień?

Co zrobimy z naszym życiem? Załóżmy, że uwielbiam malować. Jak mogę spełnić swoje marzenie o zostaniu malarzem, jeśli komputer tworzy lepszą sztukę, niż kiedykolwiek będę w stanie to zrobić? Jak mogę żyć wiedząc, że nikomu nie zależy na moich obrazach, ponieważ zostały one wykonane przez zwykłego człowieka ? Albo prawdziwy ja, na przykład (ja, Danzmann), uwielbiam kodować, nauczyłem się mojego pierwszego języka programowania z 9-letnim językiem i od tego czasu go używam, smutne jest dla mnie to, że za kilka lat już nigdy więcej go nie dotknę . Dotyczy to wszystkich zawodów, każdy jest czymś pasjonujący, a dzięki osobliwości każdy z nich musiałby po prostu przestać istnieć.

Co będziemy robić w tej przyszłości? Co ja mam zrobić? Grać w golfa przez cały dzień, każdego dnia przez resztę życia (Mowa hiperboli, ale rozumiesz).

Co będzie motywacją dla moich dzieci? Co mam im powiedzieć, żeby poszli do szkoły? Kiedy ktoś pyta „kim chcesz być, kiedy dorośniesz?”, A nieunikniona odpowiedź jest niczym .

Jeśli wysoce zaawansowana sztuczna inteligencja przejmuje kontrolę nad wszystkimi badaniami naukowymi, to jaki jest powód, dla którego się uczymy ? Jaki jest powód, dla którego my, ludzie, musielibyśmy poświęcać dziesięciolecia naszego życia, aby się czegoś nauczyć, jeśli wiedza ta jest bezużyteczna, ponieważ nie ma już pracy, a badania naukowe są prowadzone wyłącznie przez AI?

Biorąc pod uwagę, że wszystkie twoje założenia dotyczące sztucznej inteligencji są prawdziwe, mielibyśmy jakąś utopię, w której nikt nie musiałby pracować, a wszystkiego jest mnóstwo. Słusznie. Wasze inne założenia dotyczą natury ludzkiej i właśnie w tym miejscu podważę wasz wniosek: tylko dlatego, że przy danym zadaniu są komputery lepsze od ludzi, nie robi to automatycznie przyjemności.

Mam trzy argumenty za moim stanowiskiem.

• Istnieją już komputery lepsze od ludzi w warcaby, szachy, tryktrak, starcraft, mastermind, go, ... i wiele innych. Jednak w te gry nadal się gra, nawet jeśli żaden człowiek nie ma nadziei, że kiedykolwiek będzie tak dobry jak komputer.
• Pojawią się dziedziny, w których ocena jakości jest tak niejasna lub osobista, że ​​pojęcie „lepszego” jest bezużyteczne w jakimkolwiek obiektywnym sensie. Myślę głównie o sztuce. Biorąc pod uwagę argument pierwszy, aparaty fotograficzne są już lepszymi „malarzami” rzeczywistości, niż ludzie mogą kiedykolwiek mieć nadzieję, ale ludzie nadal malują. Doceniane są ich obrazy, nawet te fotorealistyczne.
• Powiedziałbym, że cały sposób myślenia „jeśli ktoś jest lepszy ode mnie w x, nie warto robić x”, wkrótce przeżyje swoje życie. Społeczeństwo nie zawsze kręciło się tak, jak czuję, głównie ze względu na wpływ stylu życia w Ameryce Północnej, aby zawsze starać się być numerem 1 i wszystko poniżej tego bzdury. Globalizacja już zagraża temu sposobowi myślenia, a wielu młodych ludzi jest rozczarowanych, a nawet przygnębionych, ponieważ, bezmyślnie mówiąc: „cokolwiek robisz, zawsze jest azjatyckie dziecko, które robi to 10 razy lepiej”. Nie musimy czekać, aż sztuczna inteligencja nas przyćmi, reszta świata już to robi. W konsekwencji musimy dostosować nasz sposób podejścia do tego faktu, przestać postrzegać go jako zmniejszający się do naszej wartości i iść dalej.

Na zakończenie widzę to jako problem dla ogólnej populacji, że w krótkim czasie zasadniczo musimy zmienić bardzo istotną część naszego poglądu na świat, AI jest lepsza od nas, nie musimy już więcej pracować itd. Wszystkie rewolucje gospodarcze w przeszłości, neolit, przemysł, a ostatnio cyfrowy - miały dłuższy okres przejściowy, w którym ludzie mogli się przyzwyczaić do nowego świata. I nawet przy tym przejściu było to dla wielu osób wystarczająco trudne. Większość jednak sobie z tym poradziła, a późniejsze pokolenia z trudem wyobrażają sobie świat, w którym nowa zmiana jeszcze nie istnieje, a ja osobiście nie rozumiem, dlaczego następna rewolucja powinna być inna.

Jesteśmy istotami biologicznymi. Będziemy nadal lubić to, co aktywuje receptory opioidowe i nadal będziemy chcieć tego, co aktywuje receptory dopaminy w jądrze półleżącym. Jedzenie, napoje, seks, dominacja społeczna, akty altruistyczne, nowość, narkotyki, mistrzostwo fizyczne, prokreacja, kontakty towarzyskie, ładna słoneczna pogoda, sen, gdy jesteś zmęczony itp., Będą nadal satysfakcjonujące i motywujące, dopóki będziemy mieli mózgi. Kilka linków do artykułów przeglądowych na temat neurobiologii:

Zobacz także ten artykuł Pleasure Systems in the Brain lub ten Dopamine in Motivational Control: Rewarding, Aversive, and Alerting, aby uzyskać więcej informacji na ten temat.

Osobiście lubię grać w koszykówkę, mimo że nie miałbym szans w starciu z graczami NBA, a wspinanie się po skałach, chociaż korzystanie z drabiny byłoby znacznie bardziej wydajne. Ja też nie dostaję zapłaty.

Co będzie motywacją dla moich dzieci? Co mam im powiedzieć, żeby poszli do szkoły? Kiedy ktoś pyta „kim chcesz być, kiedy dorośniesz?”, A nieunikniona odpowiedź jest niczym.

Nie zgadzam się. Szkoły będą się rozwijać. Dzieci nadal będą musiały nauczyć się umiejętności społecznych i nawiązać przyjaźnie. Przynajmniej będą musieli nauczyć się obsługiwać i obsługiwać komputery, które robią wszystko. Nadal będą musieli nauczyć się być lepszymi ludźmi, czytając nauki humanistyczne. Nie sądzę, żeby im powiedziano: „Komputer będzie teraz czytał Dostojewskiego w twoim imieniu, jest WIELE LEPSZY w czytaniu , wiesz”. Mogą istnieć zawody, w których opis stanowiska zawiera „przez człowieka”, takie jak rękodzieło, psychoterapia itp. Mogą dorastać do tego, czego chcą, a istoty ludzkie nie są definiowane wyłącznie przez ich zawody. Jestem pewien, że nie jesteś tylko koderem, niczym więcej .

Począwszy od punktu Arne na temat fotografii:

Chciałbym zwrócić uwagę na to, jak fotografia zmieniła malarstwo. Można zauważyć, że klasyczne malarstwo, które starało się być fotorealistyczne, przestało być aktualne, gdy zaczęła się fotografia, i że zaczęło się kilka nowoczesnych ruchów, takich jak bardziej abstrakcyjne obrazy, surrealizm lub kubizm.

Można postrzegać sztukę jako medium do chwalenia się „jestem lepszy od ciebie”. Mogli powiedzieć „jestem lepszy od ciebie w doskonaleniu techniki realizmu”, dopóki nie pojawiła się fotografia. Teraz, w tym aspekcie, czym chwalą się artyści? Czasami twierdząc, jak postępowi są podczas rzeźbienia zabawek erotycznych? Twierdząc, że ich biała kula jest „zbyt głęboka dla ciebie”?

Nie jestem jednak historykiem sztuki, dlatego właśnie tak ewoluowałem w kierunku współczesnej „sztuki”, w której umiejętności zastąpiono prowokacją.

Fotografia może być dobrym punktem wyjścia do zastanowienia się, jak ludzie reagują na technologię, która ich krasnoluduje i nadal chcą być numerem 1.

- tutaj należy zauważyć: ludzie chcą mieć dobrą tożsamość

Paul Lafargue napisał kiedyś Prawo do lenistwa, argumentując, jak ludzkość ewoluowałaby intelektualnie, gdyby ludzie pracowali mniej, ponieważ maszyny mogłyby dla nas pracować. Jednym z jego argumentów było to, że ludzie postrzegają jako modele intelektualne, greccy filozofowie, nie działali i mieli więcej czasu na przemyślenia. Myślę, że brakuje mu sensu: nie wszyscy mogą cieszyć się spędzaniem czasu na filozofii. Podobnie jak głęboko się myliliśmy, kiedy spodziewaliśmy się, że internet otworzy nasze umysły na wielki wiek wiedzy. Pamiętaj, że ludzie nie są utopicznie inteligentni, że masz głupców, a ludzie w zasadzie podążają za ich instynktownymi potrzebami. Właśnie dlatego 20 lat po tym, jak zaczęliśmy korzystać z Internetu, mamy lolkaty, trolle, zamknięte społeczności i więcej nietolerancji intelektualnej (pomyśl sjw, inne właściwe ruchy).

- punkt # 2: nie wszyscy mogą zostać objęci utopią „wszyscy będą mądrzy”

Kluczem jest tożsamość. Myślę, że wszyscy chcą i muszą mieć „pozytywną tożsamość”, szukają takiej, która zrekompensuje ich słabości. To jest dla mnie powód, dla którego biedni ludzie popisują się, a ludzie sukcesu nie przechwalają się. Jak więc wykuć swoją pozytywną tożsamość, skoro nie masz wiele dla siebie?

Widzę kilka rzeczy, które dzieją się wokół mnie: - bądź buntownikiem: aby się wyróżnić, stajesz się przeciwnikiem; ale w rzeczywistości odzwierciedlasz główny trend, chwaląc się niezależnością. Jestem przeciwny, więc jestem wolny. Możesz wybierać między wolną postawą IA (np. Ludzie, którzy nie chcieli korzystać z Internetu, niektórzy korzystający z wolnego oprogramowania), a bardziej agresywnym ruchem. - bądź konserwatywny, pobożny: może w reakcji na społeczeństwo, które zmienia się i staje się zbyt progresywne dla niektórych, widzę, że ludzie stają się konserwatywni, to wciąż buntownicza tendencja, i widzę wzrost konserwatywnego głosowania (nacjonalizm) lub religii (buddyzm, chrześcijaństwo, islam) jako reakcja. Podążam za tradycjami, więc jestem niezależny od twoich nowości. Religia jest zawsze solidną wartością, gdy zmienia się społeczeństwo. - bądź hiperprogresywny: taka sama reakcja, jak w poprzednim punkcie, jeśli uważasz, że społeczeństwo jest zbyt konserwatywne. To buntownicza postawa, gdy przed tobą są konserwatywni ludzie. Jestem o krok przed wszystkimi, popatrz jak jestem awangardą.

- punkt # 3: jeśli nie przodujesz w polu, bądź buntownikiem. Lub: jeśli nie możesz podążać, odsuń się, nie podążaj za strumieniem.

Nie musisz już więcej pracować, dużo jedzenia hodowanego przez drony kontrolowane przez IA, wszystkie potrzeby materialne spełnione i brak zainteresowania zbytnim myśleniem. Co ludzie robią, gdy mają za dużo czasu? Proste: wypełniają swoje naturalne pragnienia niezwiązane z potrzebami materialnymi i jedzeniem. Kilka przykładów: jedzenie, granie w gry, seks, kłótnie online, marnowanie się. Zasadniczo wszystko, co zostało określone jako grzech. Będziesz także mieć formy zaburzeń psychicznych, które widzisz u ludzi, którzy czują się bezwartościowi. I wiele innych poczuje się bezwartościowych.

Oznacza to również, że będziesz potrzebować więcej miejsc pracy, aby zapewnić rozrywkę tym osobom lub opiekę nad cierpiącymi.

- punkt # 4: jeśli życie staje się zbyt łatwe, ludzie stają się grzesznikami

Na podstawie tych kilku przykładów powstaje pytanie: jeśli „przeciętni” ludzie mają tendencję do uzyskiwania swojej lśniącej tożsamości poprzez przeciwstawianie się społeczeństwu głównego nurtu, jak będzie wyglądać społeczeństwo głównego nurtu po powstaniu AI?

Widzę więc trzy reakcje ludzi: - bądź odpowiedni po wzroście sztucznej inteligencji, ci, którzy mogą za nim podążać - zostań buntownikiem, ci, którzy nie mogą pójść za nim, ale nadal chcą wyglądać na istotnego - bądź neutralny, tym, który zaspokoi ludzkie pragnienia

Ogólnie rzecz biorąc, ludzie zrobią mieszankę tych trzech.

Ludzkość, za pomocą sztucznej inteligencji, która może udzielić odpowiedzi w zasadzie na wszystko, dostarczy nowych pytań, nowych projektów, nowych granic do zbadania. Wiele osób nadal będzie nieco zainteresowanych. Sztuczna inteligencja stanie się głównym nurtem, więc wszyscy będą się jej mniej lub bardziej sprzeciwiać, jednocześnie ciesząc się jej zaletami (pomyśl o osobach, które twierdzą, że są niezależne od technologii / pieniędzy, ale mają iPhone'a). Ludzie nadal będą się kłócić w Internecie i chichotać na urocze koty robiące dziwne rzeczy. Może więcej, ponieważ mają więcej wolnego czasu.

Podsumowując, jeśli sztuczna inteligencja stanie się istotna, spodziewaj się świata, w którym więcej osób będzie miało zbyt dużo czasu . Uważam ten wniosek za nieco mylący, mimo wszystko pomyślałem i napisałem. : O

Zamiast zamieszczać konkretną odpowiedź, zamierzam skierować cię do medytacji Hannu Rajaniemi na ten temat w Trylogii Złodzieja Kwantowego . Dlatego:

1. Artyści mogą mieć głęboki wgląd. Może to wykazać Philip Dick, piszący o teorii ewolucji gier w Do Androids Dream of Electric Sheep na około 5 lat przed sformalizowaniem pola. (Dla moich pieniędzy jest to wciąż najważniejsza książka o sztucznej inteligencji.)

2. Wielu autorów pisało o scenariuszach po Singularity, ale Rajaneimi jest jedynym, którego jestem świadomy, kto jest matematykiem wyszkolonym w Cambridge z doktoratem z fizyki matematycznej , co, jak sądzę, czyni go dobrze wykwalifikowanym do radzenia sobie z wrodzoną złożonością temat.

Zakładasz, że sztuczna inteligencja ma motywację, jednak tak naprawdę nie jest tak, inteligentne oprogramowanie zrobi wszystko, co zostało zaprojektowane, ale to wszystko, co robi, to nie jest wytresowane zwierzę, nie ma instynktów do przetrwania, rozmnażania się czy samozaparcia determinacja, ponieważ nie ma powodu, aby dodawać te funkcje. Tak więc sztuczna inteligencja to po prostu kolejne narzędzie, które zmniejsza obciążenie umysłowe związane z wykonywaniem zadania, więc zamiast kopać rów za pomocą jednej maszyny, możesz zamówić flotę maszyn do wykopania systemu kanałów. Lub bardziej realistycznie, będziesz spędzać godziny na spotkaniach z zainteresowanymi stronami, omawiając potrzebę kanałów, uzasadniając koszty, wyjaśniając korzyści, rozważając ryzyko, ubiegając się o pozwolenia, prowadząc więcej dyskusji z radą i ich konsultantami, a następnie specjalne grupy interesów,

W dzisiejszym społeczeństwie pieniądze są kluczowym czynnikiem motywującym, nie tylko zapewniają niezbędne życie, ale także luksus i odpust. W świecie, w którym wszystkie potrzeby (nawet te złożone) są zaspokajane za darmo dzięki pojawieniu się technologii takiej jak osobliwość, łatwo powiedzieć, że nie będzie motywatora.

Ale, instynktownie, ponieważ dzieci nie motywują nas do gromadzenia pieniędzy, nie widzicie dzieci znudzonych życiem. Jako dziecko chętnie się uczyłem. Inni chętnie tańczyli lub pływali, czytali lub malowali. W końcu ludzie są istotami poszukującymi podekscytowania społecznego.

Dzisiejsze warunki społeczno-ekonomiczne nudzą pod pewnymi względami wykonywanie tej samej pracy przez lata jest prawdopodobnie gorsze.

Nie sądzę, żeby motywacja była problemem.