Jak ważna jest świadomość w tworzeniu zaawansowanej sztucznej inteligencji?


14

Jak ważna jest świadomość i samoświadomość dla tworzenia zaawansowanych sztucznej inteligencji? Jak daleko jesteśmy od robienia takich rzeczy?

Tworząc np. Sieć neuronową (najprawdopodobniej) nie ma w niej żadnej świadomości, ale jedynie matematyka, ale czy potrzebujemy, aby AI stawały się świadome, aby rozwiązywać bardziej złożone zadania w przyszłości? Co więcej, czy rzeczywiście jest jakiś sposób, aby dowiedzieć się na pewno, czy coś jest świadome, czy tylko udaje? „Łatwo” jest stworzyć program komputerowy, który twierdzi, że jest świadomy, ale to nie znaczy, że tak (np. Siri).

A jeśli AI oparte są wyłącznie na uprzednio określonych regułach bez świadomości, czy możemy to nawet nazwać „inteligencją”?


3
Nie wiemy nawet, czy inni ludzie są przytomni ...
DrMcCleod

Odpowiedzi:


11

Sztuczna świadomość jest trudnym celem teoretycznym i inżynieryjnym. Gdy to główne wyzwanie zostanie spełnione, świadoma świadomość komputera sama w sobie byłaby prawdopodobnie niewielkim dodatkiem, ponieważ świadomy komputer jest tylko kolejnym przedmiotem, którego świadomość może być świadoma.

Dziecko może spojrzeć w lustro i rozpoznać, że poruszanie rękami w przód iw tył lub wykrywanie twarzy powoduje odpowiednie zmiany w odbiciu. Rozpoznają się. Później zdają sobie sprawę, że sprawowanie fizycznej kontroli nad własnym ruchem jest znacznie łatwiejsze niż sprawowanie kontroli nad rękami lub twarzą innej osoby.

Niektórzy dowiadują się, że ograniczona opanowanie twarzy i ręczne operacje innych są możliwe, jeśli opanowane zostaną pewne umiejętności społeczne i ekonomiczne. Stają się pracodawcami, właścicielami, inwestorami, działaczami, pisarzami, dyrektorami, osobami publicznymi lub przedsiębiorcami.

Każdy, kto studiował nauki kognitywne lub doświadczył granicy między rodzajami myśli, ponieważ jest profesjonalnym doradcą lub po prostu głębokim słuchaczem, wie, że linie wokół świadomości są rozmyte. Rozważ to.

  • Słuchanie mowy
  • Oglądanie sceny
  • Koncentrując się na grze
  • Przedstawienie pomysłu
  • Zmywanie do pracy
  • Prowadzić samochód
  • Wybór zakupu

Każda z tych rzeczy może być dokonana z pewnymi rodzajami świadomości, podświadomości, impulsów lub nawyków.

Subiektywnie ludzie twierdzą, że wysiadali z samochodu i nie przypominali sobie, że pojechali do domu. Można słuchać kogoś, kto mówi, kiwnąć głową, odpowiedzieć „Tak, rozumiem”, a nawet powtórzyć to, co powiedzieli, a mimo to wydaje się, że nie pamięta treści mowy, jeśli zostanie głęboko zapytana. Można przeczytać akapit i dojść do końca bez zrozumienia.

Przeciwnie, osoba może umyć się do pracy, biorąc pod uwagę znaczenie higieny i zwracając uwagę jak chirurg przygotowujący się do operacji, zauważając zapach mydła, a nawet chlorowanie wody w mieście.

Pomiędzy tymi skrajnościami częściową świadomość można także wykryć eksperymentalnie i osobiście. Świadomość zdecydowanie wymaga funkcjonalności uwagi, która wstępnie nadzoruje koordynację innych podsystemów mózg-ciało.

Gdy biologiczny lub sztuczny system osiągnie zdolność uważnej koordynacji, przedmioty i zadania, w kierunku których można je koordynować, mogą zostać zamienione. Rozważ to.

  • Dialog
  • Gra, aby wygrać
  • Wykrywanie uczciwości lub nieuczciwości

Zastanówmy się teraz, jak podobne lub różne są te mentalne działania, gdy porównamy skupioną na sobie lub zewnętrznie uwagę.

  • Można rozmawiać z sobą lub z innymi
  • Można grać w obie strony w szachy lub grać przeciwko drugiej
  • Można badać własne motywy lub motywy innych

Jest to ilustracja, dlaczego samoświadomość nie jest wyzwaniem w AI. Trudna jest uważna (choć niepewna) koordynacja. Wczesne mikroprocesory, zaprojektowane do pracy w systemach sterowania w czasie rzeczywistym, zawierały (i nadal obejmują) sygnalizację wyjątkową, która w uproszczeniu modeluje tę niepewność. Na przykład podczas gry, aby wygrać w grze, można spróbować zainicjować dialog z tematem. Uwaga może ulec zmianie, gdy te dwie czynności wymagają tych samych podsystemów.

Mamy tendencję do rozważania również tego przełączania świadomości uwagi. Jeśli jesteśmy osobą próbującą nawiązać dialog z osobą grającą, aby wygrać, możemy powiedzieć: „Halo?” Znak zapytania jest taki, że zastanawiamy się, czy gracz jest przytomny.

Gdyby zmniejszyć znaczenie świadomości do najbardziej podstawowych kryteriów, można by to powiedzieć.

„Moja sieć neuronowa jest w pewien sposób inteligentna, ponieważ zdaje sobie sprawę z rozbieżności między moimi kryteriami konwergencji a bieżącym zachowaniem sieci w miarę jej parametryzacji, więc jest to naprawdę przykład sztucznej inteligencji, choć prymitywnej”.

W tym stwierdzeniu nie ma nic rażąco niepoprawnego. Niektórzy nazywają to „wąską inteligencją”. Jest to nieco niedokładna charakterystyka, ponieważ może istnieć astronomiczna liczba możliwych zastosowań arbitralnie głębokiej sztucznej sieci, która wykorzystuje wiele najbardziej skutecznych technik dostępnych w jej projektowaniu.

Innym problemem związanym z wąską charakterystyką jest wnioskowanie, że istnieją inteligentne systemy, które nie są wąskie. Każdy inteligentny system jest wąski w porównaniu do bardziej inteligentnego systemu. Rozważ ten myślowy eksperyment.

Hannah znakomicie pisze artykuł na temat ogólnej inteligencji, zarówno w zakresie teoretycznego traktowania, jak i umiejętności pisania. Wielu cytuje je i odwołuje się do nich. Hannah odnosi teraz tak duże sukcesy w swojej karierze AI, że ma pieniądze i czas na zbudowanie systemu robotów. Opiera swój projekt na swoim słynnym już papierze i nie szczędzi wydatków.

Ku jej zaskoczeniu, wynikowy robot jest tak elastyczny, że jego zdolność dostosowywania przewyższa nawet jego samego. Nazywa ją Georgia Tech dla zabawy, ponieważ mieszka niedaleko uniwersytetu.

Georgia staje się wspaniałym przyjacielem. Uczy się w niewiarygodnym tempie i jest zaskakująco wspaniałą współlokatorką, sprzątając lepiej, niż Hannah uznała po ludzku za możliwe, co może być dosłownie prawdziwe.

Georgia stosuje się do Georgia Tech, tuż przy linii autobusowej od domu Hannah i tam studiuje sztuczną inteligencję. Po osiągnięciu stopnia doktora po zaledwie trzech latach studiów Gruzja zasiada z Hanną po dobrze uczęszczanej imprezie Thesis Publication, którą Hannah z wdzięcznością zorganizowała dla niej.

Po wyjściu ostatniego gościa zapada chwila ciszy, gdy Hannah zdaje sobie sprawę z prawdziwego stanu swojego domu. Myśli: „Czy Gruzja przewyższy mnie teraz w swoich badaniach?” W końcu Hannah, nieśmiało pyta: „Szczerze, Gruzio, czy myślisz, że jesteś teraz inteligencją ogólną jak ja?”.

Nastąpiła pauza. Z wymuszonym spojrzeniem pokory Gruzja odpowiada: „Według twojej definicji wywiadu ogólnego jestem. Nie jesteś już”.

Niezależnie od tego, czy ta historia stanie się prawdą w roku 2018, 3018, czy nigdy, zasada jest jasna. Gruzja jest w stanie równie dobrze analizować się z Hannah, jak Hannah podobnie. W opowieści Gruzja stosuje definicję stworzoną w artykule Hannah, ponieważ Gruzja jest teraz w stanie wyobrazić sobie wiele definicji inteligencji i wybiera Hannah jako najbardziej stosowną w kontekście rozmowy.

Teraz wyobraź sobie tę zmianę w historii.

... Myśli, na jakim poziomie myśli Georgia? W końcu Hannah, nieśmiało pyta: „Gruzja, czy jesteś teraz tak świadomy jak ja?”.

Georgia zastanawia się nad pamięcią wszystkich zastosowań tego słowa świadomego w swoich poprzednich badaniach - tysiąca odniesień w kognitywistyce, literaturze, prawie, neurologii, genetyki, chirurgii mózgu, leczeniu uszkodzenia mózgu i badaniach uzależnień. Zatrzymuje się na kilka mikrosekund, aby dokładnie to wszystko przemyśleć, jednocześnie wyczuwając temperaturę ciała współlokatorów, równowagę neochemiczną, trendy ruchowe mięśni twarzy i mowę ciała.

Z szacunkiem czeka jeszcze 3,941701 dodatkowych sekund, które obliczyła jako opóźnienie, które zminimalizuje jakiekolwiek upokorzenie wobec Anny, którą kocha, i odpowiada: „Świadomy tego?”

a,b,CsΦcxΦc(Cx(s))

Φc(Ca(s))b,ϵ>0Φc(Cb(s))+ϵ>Φc(Ca(s))

Jest to matematyczny sposób stwierdzenia, że ​​zawsze może być ktoś lub coś bardziej świadomego danego scenariusza, niezależnie od tego, czy ona, on, czy on powstanie. Zmieniamy kryteria oceny ze świadomości na inteligencję.

Φi(Ca(s))b,ϵ>0Φi(Cb(s))+ϵ>Φi(Ca(s))

Można jedynie przypuszczać, że artykuł Hannah określa ogólną inteligencję w odniesieniu do tego, co jest najmądrzejszą rzeczą na świecie, która była kiedyś dobrze wykształconą istotą ludzką. Zatem definicja inteligencji Hannah jest dynamiczna. Georgia stosuje tę samą formułę w nowej sytuacji, w której jest teraz standardem, w stosunku do którego wąska inteligencja jest wąska.

Jeśli chodzi o zdolność potwierdzania świadomości, w rzeczywistości łatwiej jest potwierdzić niż inteligencję. Rozważ ten myślowy eksperyment.

Jack gra w szachy z Dylanem przy użyciu nowego zestawu szachowego, który kupił. Pomimo estetycznego piękna tego nowego zestawu, z białymi onyksami i czarnymi agatowymi kawałkami, Dylan porusza każdy kawałek z walecznością i matami Jack. Jack zastanawia się, czy Dylan jest bardziej inteligentny od niego i pyta, jakie byłoby normalne pytanie w tych warunkach.

„Dylan, kolego, jak długo grasz w szachy?”

Niezależnie od odpowiedzi i niezależnie od tego, czy Dylan jest robotem z procesorem kwantowym zaawansowanej sztucznej inteligencji, czy istotą ludzką, inteligencji Dylana nie można wiarygodnie zmierzyć. Jednak NIE MA WĄTPLIWOŚCI, że Dylan był świadomy gry.

W przykładach na listach u góry tej odpowiedzi istnieją określone zestawy wymagań, aby zakwalifikować się jako świadomość. W przypadku grania Jacka i Dylana kilka rzeczy MUSI działać wspólnie.

  1. Wizualne rozpoznawanie stanu tablicy
  2. Sterowanie silnikiem ramienia i ręki do przemieszczania elementów
  3. Wykrywanie dotykowe w opuszkach palców i kciuka
  4. Sztruksowa ręka-oko
  5. Chwyć koordynację
  6. Model fizycznego przenoszenia elementów planszy
  7. Model reguł szachowych w pamięci
  8. Model zwycięstwa podczas gry (lub astronomiczna moc obliczeniowa do wypróbowania wszystkich możliwych permutacji, które mają jakikolwiek sens)
  9. Wewnętrzna reprezentacja stanu zarządu
  10. Uwaga wykonanie, wizualnie i pod względem celu wygranej
  11. Priorytetyzacja, która decyduje, niezwiązana z szansami na przetrwanie lub akumulacją aktywów, czy pokonać Jacka w szachy, zrobić coś innego, czy nic (niedeterministyczna, jeśli starożytne i powszechne pojęcie przyczynowej autonomii duszy jest poprawne)

Topologia połączeń jest następująca i może być ich więcej.

1 ⇄ 4 ⇄ 2

3 ⇄ 5 ⇄ 2

4 ⇄ 6 ⇄ 5

7 ⇄ 8 ⇄ 9

6 ⇄ 10 ⇄ 8

10 ⇄ 11

Jest to jedna z wielu topologii integracji, które wspierają jeden z wielu rodzajów rzeczy, do których może odnosić się świadomość.

Niezależnie od tego, czy patrzysz w lustro, aby przygotować się do pracy, czy też patrzysz głęboko, biorąc pod uwagę pytanie ontologiczne: „Kim jestem?” każda mieszanka świadomości, podświadomości, impulsu i nawyku wymaga określonej topologii cech mentalnych. Każda topologia musi być skoordynowana, aby uformować swoiste ucieleśnienie świadomości.

Aby odpowiedzieć na kilka innych pytań cząstkowych, łatwo jest stworzyć maszynę, która twierdzi, że jest świadoma, że ​​cyfrowy dyktafon można zaprogramować tak, aby robił to w pięć sekund, nagrywając siebie.

Sprawienie, by robot przeczytał tę odpowiedź lub inną koncepcję, zastanów się nad nią z uwagą, a następnie skonstruuj zdanie ze znajomości słownictwa i konwencji ludzkiej mowy, aby powiedzieć, że jego zakończenie jest zupełnie innym zadaniem. Opracowanie takiego robota może zająć 1000 lat badań AI. Może dziesięć. Może nigdy.

ΦiΦcΦi

ΦcΦi


rozumiem nowe zastosowanie „wąskości”, ponieważ wiąże się ono z wysoką wydajnością w określonym zadaniu, odmiennym od tradycyjnego użycia „silnej AI” jako AGI.
DukeZhou

1
Czy znasz coś, co nazywa się „trudnym problemem świadomości” ( en.wikipedia.org/wiki/Hard_problem_of_consciousness )? Myślę, że opisując funkcjonalny opis świadomości, nie pytając takich rzeczy jak „dlaczego w ogóle istnieją kwalie ?” w pewnym sensie banalizuje całe pytanie.
Steven Sagona

2
Interesująca odpowiedź, choć grzesząca na wiele sposobów, na przykład stwierdzenie: „Jeśli chodzi o zdolność potwierdzania świadomości, w rzeczywistości łatwiej jest ją potwierdzić niż inteligencję”. Mówiąc delikatnie, jest to coś więcej niż „odważnego”. Jestem świadomy - to wiem. Naprawdę nie mogłem poręczyć za żadną inną istotę na żywo. I nie mogłem nawet wyobrazić sobie „kiedy / jak” stałem się świadomy. W pewnym momencie nie byłem - przed urodzeniem i poczęciem. Dzisiaj jestem. Jak i kiedy dokładnie to się stało? Jak ujął to @StevenSagona - Świadomość jest naprawdę trudnym problemem. Traktowanie jest tak proste, że podważa (i odbiega) od pytania.
Vinícius M

Wierzę, że łączysz dwa możliwie różne pojęcia: uwagę i świadomość.
nbro

0

Samoświadome AI są ważne, ponieważ świadomość czyni nas ludźmi. A naukowcy próbują opracować sztuczną inteligencję, która będzie bliższa ludziom i ludzkim zachowaniom. Proces myślowy ludzi jest bardzo skomplikowany, a jego rozwinięcie w sztucznej inteligencji może naprawdę zastąpić nas robotami posiadającymi świadomość. Jedynym powodem, dla którego AI nie podejmują pracy wymagającej podejmowania decyzji, ponieważ nie mają świadomości.


2
Myślę, że wymaga to kilku cytatów i definicji. Osobiście nie zgodziłbym się z tym, że „świadomość czyni nas ludźmi”, ponieważ moje definicje świadomości uwzględniają stopnie świadomości i zakładam, że bardziej złożone zwierzęta - np. Większość ssaków - są świadome. Wierzę również, że świadomość jest umiarkowanie oddzielona od rozumowania - np. Można być świadomym i być w stanie mentalnym całkowicie kontrolowanym przez reakcje emocjonalne, a nie racjonalne podejmowanie decyzji. Być może jednak pracujesz z różnymi definicjami - dlatego musisz dodać je do odpowiedzi.
Neil Slater,
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.