W jaki sposób sztuczne sieci neuronowe i biologiczne sieci neuronowe są podobne i różne?


16

Wielokrotnie słyszałem, że „sieci neuronowe są najlepszym przybliżeniem, jakie mamy do modelowania ludzkiego mózgu” i myślę, że powszechnie wiadomo, że sieci neuronowe są modelowane na podstawie naszego mózgu.

Podejrzewam, że ten model został uproszczony, ale ile?

Jak bardzo, powiedzmy, waniliowy NN różni się od tego, co wiemy o ludzkim mózgu? Czy my w ogóle wiemy?


1
Świetne pytanie. Wiele z tego, co można powiedzieć, jest powiedziane tutaj psychology.stackexchange.com/questions/7880/…
Andrew Butler

1
Pomyślałem, że to powinno być pytanie, na które udzielono odpowiedzi na ai.SE. Też jestem ciekawa!
Andreas Storvik Strauman

Sztuczne neurony i neurony biologiczne są bardzo podobne. Kształt ich połączeń jest również dość podobny, chociaż neurony biologiczne mają wiele komplikacji w ich współdziałaniu, które wydają się w dużej mierze nieznane. Jednak wykorzystanie tych neuronów jest drastycznie różne, to jest powód, dla którego są one połączone w sieci i wykorzystane. ANN są używane do przybliżania funkcji, a tym samym do rozwiązywania problemów. Podczas gdy tylko Bóg wie, dlaczego BNN są takie, jakie są i jaki jest ich cel. Myślę, że niezbyt interesujące pytanie ...
Evgeniy,

Odpowiedzi:


10

Różnice między sztucznymi sieciami neuronowymi (ANN) a biologicznymi sieciami neuronowymi (BNN) zależą od tego, czego szukasz. Wszyscy wiemy, że ANN są inspirowane biologicznymi.
Różnice strukturalne: Ogólnie sieć neuronowa składa się z czterech elementów:
wprowadź opis zdjęcia tutaj

  • neurony
  • topologia: ścieżka łączności między neuronami
  • ciężary
  • algorytm uczenia się

W przypadku sztucznej sieci neuronowej stan początkowy i wagi są przypisywane losowo . Podczas gdy w biologicznych sieciach neuronowych siła połączeń między neuronami i struktura połączeń nie zaczynają się tak przypadkowo. Stan początkowy pochodzi z pochodzenia genetycznego i jest produktem ubocznym ewolucji .
W BNN uczenie się opiera się na wzajemnych połączeniach niezliczonych neuronów w mózgu. Te połączenia zmieniają konfigurację, gdy mózg doświadcza nowych bodźców . Te zmiany wynikają z nowych połączeń, wzmocnienie istniejących połączeń oraz usunięcie starych i nieużywanych nich .
ANN są trenowane od zera przy użyciu stałej topologii(pamiętaj zmiany w topologii w przypadku BNN), które zależą od rozwiązania problemu. Obecny mechanizm nie zmienia topologii ANN, a wagi są losowo inicjowane i regulowane za pomocą algorytmu optymalizacyjnego.

Innym kontrastem jest liczba neuronów w sieci. Typowy ANN składa się z setek, a może tysięcy neuronów; biologiczna sieć neuronowa ludzkiego mózgu składa się z miliardów . Liczba ta różni się w zależności od zwierzęcia. Zwierzę.
Możesz znaleźć więcej tutaj i tutaj .


1
Czy siła połączenia jest uzyskiwana genetycznie? Czy jesteś tego pewien?
DuttaA,

2
Początkowo siły połączenia noworodka są określane genetycznie. Następnie zmieniają się głównie na podstawie bodźców zewnętrznych.
Ugnes,

2
Sztuczne sieci neuronowe nie są ograniczone do ustalonych topologii (patrz NEAT, TWEANN itp.)
Andrew Butler,

1
ANN dla rozpoznawania obrazów ma zdecydowanie więcej niż tylko tysiące neuronów. Prawdopodobnie wiele milionów.
maaartinus

Odpowiedź napisałem na podstawie znalezionych dzisiaj ogólnych ZA, nie biorąc pod uwagę najlepszych ANN. Wraz z ulepszeniem technologii, ANN również się poprawiają; przybliżanie się do BNN. Dzięki, AndrewButler i maaartinus, aby wspomnieć o nich.
Ugnes,

5

Nie są już blisko!

[Sztuczne] sieci neuronowe niejasno inspirowane połączeniami, które wcześniej zaobserwowaliśmy między neuronami mózgu. Początkowo zapewne zamierzano opracować ANN w celu przybliżenia mózgów biologicznych. Jednak nowoczesne działające ANN, które widzimy ich zastosowania w różnych zadaniach, nie zostały zaprojektowane w celu zapewnienia nam funkcjonalnego modelu zwierzęcego mózgu. O ile mi wiadomo, nie ma badań twierdzących, że znaleźli coś nowego w mózgu biologicznym, analizując połączenia i rozkłady masy, powiedzmy, modelu CNN lub RNN.


LOL. Zgadzam się. Łączy je jedno. Są to obwody w najbardziej abstrakcyjnym znaczeniu tego słowa. Może być jeszcze jedna rzecz. Natura próbowała wielu rzeczy i wyszliśmy. Potem wypróbowaliśmy kilka rzeczy i pojawiły się XNN (gdzie X jest jednym z A, C lub N). Obie sieci są wynikiem dużej liczby awarii.
FauChristian

3

Powszechne stwierdzenie, że sztuczne sieci neuronowe są inspirowane strukturą neuronową mózgu, jest tylko częściowo prawdziwe.

Prawdą jest, że Norbert Wiener, Claude Shannon, John von Neuman i inni rozpoczęli ścieżkę do praktycznej sztucznej inteligencji, rozwijając coś, co wtedy nazywali mózgiem elektronicznym. To także prawda

  • Sztuczne sieci mają funkcje zwane aktywacjami,
  • Są podłączone do relacji wiele do wielu, takich jak neurony biologiczne i
  • Są zaprojektowane tak, aby nauczyć się optymalnego zachowania,

ale taki jest zakres podobieństwa. Komórki w sztucznych sieciach, takich jak MLP (wielowarstwowe perceptrony) lub RNN (rekurencyjne sieci neuronowe) nie są jak komórki w sieciach mózgowych.

Perceptron, pierwsze oprogramowanie dźgające w tablice rzeczy, które się aktywują, nie był szeregiem neuronów. Było to zastosowanie podstawowej informacji zwrotnej obejmującej gradienty, która była powszechnie stosowana w inżynierii, odkąd odśrodkowy gubernator Jamesa Watta był modelowany matematycznie przez Gaussa. Do stopniowej aktualizacji macierzy tłumienia zastosowano kolejne przybliżenie, które było stosowane od stuleci. Macierz została pomnożona przez wektor zasilający tablicę identycznych funkcji aktywacyjnych w celu uzyskania wyniku. Otóż ​​to.

Rzutowanie w drugim wymiarze na wielowarstwową topologię było możliwe dzięki uświadomieniu sobie, że jakobian można wykorzystać do wytworzenia sygnału korygującego, który odpowiednio rozłożony jako ujemne sprzężenie zwrotne do warstw może dostroić macierz tłumienia sekwencji perceptrony i sieć jako całość zbiegałyby się po zadowalającym zachowaniu. W sekwencji perceptronów każdy element nazywa się warstwą. Mechanizm sprzężenia zwrotnego nazywa się teraz propagacją wsteczną.

Matematyka używana do korygowania sieci nazywa się opadaniem gradientu, ponieważ jest jak odwodniony ślepiec, który używa gradientu terenu w celu znalezienia wody, a problemy z tym związane są podobne. Może znaleźć lokalne minima (niski punkt), zanim znajdzie słodką wodę i zbiegnie się w chwili śmierci zamiast nawodnienia.

Nowsze topologie są dodatkiem do już istniejących prac związanych z konwolucją wykorzystywanych w cyfrowym przywracaniu obrazów, sortowaniu poczty i aplikacjach graficznych w celu stworzenia rodziny topologii CNN i genialnego wykorzystania czegoś, co przypomina równowagę chemiczną z chemii z pierwszego roku w celu połączenia kryteriów optymalizacji, tworząc rodzina topologii GAN.

Deep jest po prostu synonimem wielu w większości kontekstów AI. Czasami wnioskuje o złożoności w topologii wyższego poziomu (powyżej produktów macierzy wektorowej, aktywacji i zwojów).

Aktywne badania są prowadzone przez tych, którzy są świadomi, jak różne są te głębokie sieci od tego, co naukowcy neuronowi odkryli dziesiątki lat temu w tkance mózgowej ssaków. Obecnie odkrywa się coraz więcej czynników różnicujących, gdy bada się obwody uczenia się i neurochemię w mózgu z perspektywy genomowej.

  • Plastyczność neuronów ... zmiana topologii obwodu z powodu wzrostu dendrytu i aksjomatu, śmierci, przekierowania i innych zmian kształtu
  • Złożoność topologiczna ... duża liczba aksjomatów krzyżuje się bez interakcji i jest celowo chroniona przed przenikaniem (niezależnym) najprawdopodobniej, ponieważ byłoby niekorzystne, gdyby pozwalały im się połączyć [uwaga 1]
  • Sygnalizacja chemiczna ... mózgi ssaków mają dziesiątki neuro-przekaźników i związków neuro-regulacji, które mają regionalne działanie na obwody [Uwaga 2]
  • Organelle ... żywe komórki mają wiele podstruktur i wiadomo, że kilka typów ma złożone relacje z transmisją sygnału w neuronach
  • Zupełnie inna forma aktywacji ... aktywacje we wspólnych sztucznych sieciach neuronowych są po prostu funkcjami skalarów porządkowych zarówno dla zasięgu, jak i dziedziny ... neurony ssaków działają w funkcji zarówno amplitudy, jak i względnej czasowej bliskości przychodzących sygnałów [Uwaga 3]

[1] Jak na ironię, topologia jest, jak na ironię, podzbiorem architektury (w dziedzinie projektowania budynków, udostępniania sieci, analizy WWW i sieci semantycznych), ale jednocześnie topologia jest, o wiele więcej niż architektura, w radykalnym centrum obu sztucznej inteligencji matematyka i skuteczna aktualizacja w systemach sterowania

[2] Rola chemii może być niezbędna do uczenia się zachowań społecznych i reprodukcyjnych, które są powiązane z propagacją informacji DNA, łącząc w złożony sposób uczenie się na poziomie ekosystemu i mózgu. Ponadto uczenie się w perspektywie krótko- i długoterminowej dzieli uczenie się mózgu na dwie odrębne możliwości.

[3] Wpływ synchronizacji sygnałów przychodzących na aktywację neuronu biologicznego jest do pewnego stopnia rozumiany, ale może mieć znacznie większy wpływ niż wyjście neuronu. Może to również wpływać na plaktyczność i chemię, a organelle mogą w tym odgrywać rolę.

streszczenie

Biblioteki uczenia maszynowego symulują ludzki mózg tak samo, jak lalki Barbie i Ken symulują prawdziwą parę.

Niemniej jednak w dziedzinie głębokiego uczenia się powstają niezwykłe rzeczy i nie zaskoczyłoby mnie, gdyby autonomiczne pojazdy stały się w pełni autonomiczne w ciągu naszego życia. Nie polecam też żadnym studentom, aby zostali programistami. Komputery prawdopodobnie kodują znacznie lepiej niż ludzie i rzędy wielkości szybciej, a być może wkrótce. Niektóre zadania nie są tego rodzaju, co ewolucja w biologii, a komputery mogą przekroczyć ludzkie możliwości po zaledwie kilku dekadach badań, ostatecznie przekraczając ludzkie możliwości o kilka rzędów wielkości.


Istnieje drastyczna różnica między prowadzeniem samochodu a programowaniem komputera. Prowadzenie samochodu jest dobrze zdefiniowanym zadaniem, więc może istnieć sposób wyrażenia go jako problem aproksymacji funkcji, dlatego sieci neuronowe mogą się włączyć. Funkcja korzystania z elementów sterujących samochodu na podstawie danych wejściowych istnieje i może być przybliżone. Podczas gdy programowanie komputera nie jest tak naprawdę zadaniem, jest to ciąg decyzji podejmowanych podczas myślenia o sytuacji. Sztuka zamienia kłopoty w problemy.
Evgeniy,
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.