Moc obliczeniowa sieci neuronowych?


13

Powiedzmy, że mamy jednowarstwową sieć neuronową z przekazywaniem danych z k wejściami i jednym wyjściem. Oblicza funkcję z , dość łatwo zauważyć, że ma ona co najmniej taką samą moc obliczeniową jak A C 0 . Dla zabawy nazwiemy zestaw funkcji obliczalnych przez jednowarstwową sieć neuronową „ N e u r a l ”.{0,1}n{0,1}AC0Neural

Wydaje się jednak, że może mieć większą moc obliczeniową niż sam .AC0

Więc ... czy czy N e u r a l = A C 0 ? Czy badano też wcześniej tego rodzaju klasę złożoności?AC0NeuralNeural=AC0


1
Uwaga na temat terminologii - ważną informacją jest liczba ukrytych warstw. Sieć neuronowa z zerową warstwą ukrytą z jednym wyjściem jest po prostu liniową funkcją progową i często (myląco) nazywana jest jedną lub dwiema warstwami sieci neuronowej / perceptronem, w zależności od tego, czy wejścia / wyjścia są uważane za warstwy. Również w literaturze AI sieci neuronowe są zazwyczaj definiowane w kategoriach funkcji sigmoidalnych, co oznacza, że ​​wejścia / wyjścia są naprawdę wartościowane. Wiadomo, że jedna sieć ukrytych warstw jest uniwersalnym aproksymatorem w tym sensie, że dowolną funkcję ciągłą można dowolnie zbliżyć
Jarosław Bułatow

Odpowiedzi:


Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.