W przypadku pytań dotyczących sztucznych sieci, takich jak MLP, CNN, RNN, LSTM i GRU, ich warianty lub dowolne inne elementy systemu AI, które kwalifikują się jako sieci neuronowe, ponieważ są częściowo inspirowane biologicznymi sieciami neuronowymi.
Mówi się, że funkcje aktywacyjne w sieciach neuronowych pomagają wprowadzić nieliniowość . Co to znaczy? Co w tym kontekście oznacza nieliniowość ? Jak pomaga wprowadzenie tej nieliniowości ? Czy są jakieś inne cele aktywacji funkcji ?
Z Wikipedii: Neuron lustrzany to neuron, który strzela zarówno wtedy, gdy zwierzę działa, jak i gdy zwierzę obserwuje to samo działanie, które wykonuje inny. Lustrzane neurony są związane z uczeniem się imitacji, bardzo przydatną funkcją, której brakuje w obecnych rzeczywistych implementacjach AI. Zamiast uczyć się na przykładach nakładów-wyników (nauka nadzorowana) …
Pochodzi z zamkniętej wersji beta AI, z tym pytaniem wysłanym przez użytkownika o numerze 47. Wszystkie podziękowania dla nich. Według Wikipedii , Maszyny Boltzmanna można postrzegać jako stochastyczny, generatywny odpowiednik sieci Hopfield. Obie są rekurencyjnymi sieciami neuronowymi, które można wyszkolić w zakresie uczenia się wzorów bitowych. Następnie, gdy zostanie przedstawiony …
Usiłuję zrozumieć funkcję utraty GAN przedstawioną w Understanding Generative Adversarial Networks (post na blogu napisany przez Daniela Seity). W standardowej stracie entropijnej mamy wyjście, które zostało przepuszczone przez funkcję sigmoidalną i wynikową klasyfikację binarną. Stwierdza Sieta Zatem dla [każdego] punktu danych x1x1x_1 i jego etykiety otrzymujemy następującą funkcję utraty ... …
Dla zabawy próbuję rozwinąć sieć neuronową. Teraz dla propagacji wstecznej widziałem dwie techniki. Pierwszy jest używany tutaj i w wielu innych miejscach. Co to robi: Oblicza błąd dla każdego neuronu wyjściowego. Propaguje go z powrotem do sieci (obliczając błąd dla każdego wewnętrznego neuronu). Aktualizuje wagi za pomocą wzoru: (gdzie jest …
Załóżmy, że zawiera NN nnn ukryte warstwy mmm przykładami treningu, xxx funkcje, a ninin_i węzłów w każdej warstwie. Jaka jest złożoność czasu, aby trenować ten NN przy użyciu propagacji wstecznej? Mam podstawowe pojęcie o tym, jak znajdują złożoność czasową algorytmów, ale tutaj należy wziąć pod uwagę 4 różne czynniki, tj. …
Modułowe / Wiele sieci neuronowych (MNN) obraca się wokół szkolenia mniejszych, niezależnych sieci, które mogą się wzajemnie łączyć lub innej wyższej sieci. Zasadniczo organizacja hierarchiczna może pozwolić nam zrozumieć bardziej złożone przestrzenie problemowe i osiągnąć wyższą funkcjonalność, ale wydaje się, że trudno znaleźć przykłady konkretnych badań przeprowadzonych w przeszłości w …
Wielokrotnie słyszałem, że „sieci neuronowe są najlepszym przybliżeniem, jakie mamy do modelowania ludzkiego mózgu” i myślę, że powszechnie wiadomo, że sieci neuronowe są modelowane na podstawie naszego mózgu. Podejrzewam, że ten model został uproszczony, ale ile? Jak bardzo, powiedzmy, waniliowy NN różni się od tego, co wiemy o ludzkim mózgu? …
Przypuśćmy, że w CNN jest wymaganych 10 000 obrazów o rozmiarach 2400 x 2400. W moim przekonaniu przydatne będą konwencjonalne komputery, z których będą korzystać ludzie. Teraz pytanie brzmi, jak radzić sobie z tak dużymi rozmiarami obrazu, w których nie ma uprawnień do próbkowania w dół. Oto wymagania systemowe: - …
Chcę tylko wiedzieć, dlaczego inżynierowie uczenia maszynowego i programiści AI używają języków takich jak python do wykonywania zadań AI, a nie C ++, mimo że C ++ jest technicznie silniejszym językiem niż Python.
Biorąc pod uwagę sieć neuronową fff która przyjmuje jako dane wejściowe nnn punktów danych: x1,…,xnx1,…,xnx_1, \dots, x_n . Mówimy, że fff jest niezmienną permutacją, jeśli f(x1...xn)=f(pi(x1...xn))f(x1...xn)=f(pi(x1...xn))f(x_1 ... x_n) = f(pi(x_1 ... x_n)) pipipi Czy ktoś mógłby polecić punkt początkowy (artykuł, przykład lub inny artykuł) dla niezmienniczych sieci neuronowych permutacji?
Większość ludzi próbuje odpowiedzieć na pytanie za pomocą sieci neuronowej. Jednak czy ktoś wpadł na jakieś przemyślenia, jak zadawać pytania w sieci neuronowej zamiast odpowiadać na pytania? Na przykład, jeśli CNN może zdecydować, do której kategorii należy obiekt, to czy może zadać jakieś pytanie, aby pomóc w klasyfikacji?
Załóżmy, że chcę rozwiązać problem z siecią neuronową, którego albo nie mogę dopasować do już istniejących topologii (perceptron, Konohen itp.), Albo po prostu nie jestem świadomy ich istnienia lub nie jestem w stanie zrozumieć ich zamiast tego polegam na mechanice. Jak mogę zautomatyzować wybór topologii (tj. Liczby warstw, rodzaju aktywacji, …
Aby uzyskać deterministyczną przestrzeń problemową, muszę znaleźć sieć neuronową o optymalnej strukturze węzła i łącza. Chcę użyć algorytmu genetycznego do symulacji wielu sieci neuronowych, aby znaleźć najlepszą strukturę sieci dla problematycznej dziedziny. Nigdy wcześniej nie używałem algorytmów genetycznych do takich zadań. Jakie są praktyczne względy? W szczególności, jak powinienem zakodować …
Czy ludzki mózg używa określonej funkcji aktywacyjnej? Próbowałem przeprowadzić pewne badania, a ponieważ jest to próg określający, czy sygnał jest wysyłany przez neuron, czy nie, brzmi bardzo podobnie do ReLU. Nie mogę jednak znaleźć żadnego artykułu potwierdzającego to. A może bardziej przypomina funkcję krokową (wysyła 1, jeśli jest powyżej progu, …
Używamy plików cookie i innych technologii śledzenia w celu poprawy komfortu przeglądania naszej witryny, aby wyświetlać spersonalizowane treści i ukierunkowane reklamy, analizować ruch w naszej witrynie, i zrozumieć, skąd pochodzą nasi goście.
Kontynuując, wyrażasz zgodę na korzystanie z plików cookie i innych technologii śledzenia oraz potwierdzasz, że masz co najmniej 16 lat lub zgodę rodzica lub opiekuna.