Porównanie porównawcze systemów składających się z osobno wyszkolonych sieci w stosunku do pojedynczych głębszych sieci prawdopodobnie nie ujawniłoby najlepszego wyboru powszechnie stosowanego.1 W literaturze widzimy wzrost liczby większych systemów, w których połączonych jest kilka sztucznych sieci wraz z innymi rodzajami komponentów. Należy się tego spodziewać. Modularyzacja wraz ze wzrostem złożoności systemów i wzrostem wymagań dotyczących wydajności i możliwości jest tak stara jak industrializacja.
Nasze laboratorium pracuje z robotycznym sterowaniem, oprzyrządowaniem termodynamicznym i analizą danych, sztuczne sieci są elementami w tych większych kontekstach systemowych. nie mamy pojedynczych MLP ani RNN, które same w sobie pełnią jakąkolwiek przydatną funkcję.
W przeciwieństwie do przypuszczeń dotyczących hierarchii sprzed dziesięcioleci, podejście topologiczne, które wydaje się działać dobrze w większości przypadków, jest zgodne z bardziej powszechnymi relacjami modułów systemowych, które są widoczne w elektrowniach, automatycznych fabrykach, aeronautyce, architekturze informacji o przedsiębiorstwie i innych złożonych projektach inżynierskich. Połączenia dotyczą przepływu, a jeśli są dobrze zaprojektowane, funkcje nadzorcze są minimalne. Przepływ występuje między modułami obejmującymi protokoły komunikacyjne, a każdy moduł dobrze spełnia swoją funkcję, obejmując niższy poziom złożoności i szczegółów funkcjonalnych. To nie jedna sieć nadzorująca drugą wydaje się najbardziej skuteczna w praktyce, ale równowaga i symbioza. Identyfikacja wyraźnego projektu master-slave w ludzkim mózgu wydaje się równie śliska.
Wyzwaniem nie jest znalezienie ścieżek informacyjnych, które składają się na topologię informacji o systemie. Przepływ informacji jest często oczywisty po analizie problemu. Trudność polega na znalezieniu najlepszych strategii szkolenia tych niezależnych sieci. Zależności od treningu są powszechne i często krytyczne, podczas gdy u zwierząt szkolenie odbywa się na miejscu lub wcale. Odkrywamy warunki, w których tego rodzaju nauka w naszych systemach jest praktyczna i jak to osiągnąć. Większość naszych badań zgodnych z tymi założeniami ma na celu odkrycie sposobów osiągnięcia wyższej niezawodności i zmniejszenia obciążenia pod względem godzin badań, aby je zdobyć.
Wyższa funkcjonalność nie zawsze przynosi korzyści. Często zapewnia niższą niezawodność i zużywa dodatkowe zasoby programistyczne przy niewielkim zwrocie. Znajdź sposób na połączenie automatyzacji wyższego poziomu, oszczędności zasobów i niezawodności w jeden proces rozwoju, a możesz wygrać nagrodę i wyróżnienie w Internecie.
Systemy równoległe, które mają ten sam cel, to dobry pomysł, ale nie nowy. W jednym systemie lotniczym dziewięć równoległych systemów ma ten sam cel, w grupach po trzy. Każda grupa stosuje inne podejście komputerowe. Jeśli dwa systemy wykorzystujące to samo podejście zapewniają tę samą moc wyjściową, a trzeci różni się, stosowane jest pasujące wyjście, a różnica w trzecim jest zgłaszana jako awaria systemu. Jeśli dwa z różnych podejść dają podobne wyniki, a trzeci różni się zasadniczo, stosuje się połączenie dwóch podobnych wyników, a trzeci podaje się jako przypadek użycia w celu dalszego rozwinięcia odrębnego podejścia.
Zwiększona odporność na uszkodzenia ma koszt, osiem dodatkowych systemów i związane z nimi zasoby obliczeniowe i łączność plus komparatory na ogonie, ale w systemach, które są kwestią życia i śmierci, dodatkowe koszty są płacone, a niezawodność jest zmaksymalizowana.
Dynamiczna adaptacja topologiczna jest związana z nadmiarowymi systemami i odpornością na uszkodzenia, ale pod pewnymi względami jest dość wyraźna. W tym obszarze rozwoju następującą technologią jest przetwarzanie neuromorficzne, częściowo inspirowane neuroplastycznością.
Ostatnią różnicą do rozważenia jest topologia procesu, topologia danych i topologia sprzętowa. Te trzy geometryczne ramki mogą generować razem większą wydajność, jeśli zostaną wyrównane w określony sposób, co spowoduje bardziej bezpośrednie odwzorowania między relacjami między przepływem, reprezentacją i mechaniką. Są to jednak różne topologie. Znaczenie wyrównania może nie być oczywiste bez głębokiego zanurzenia się w te koncepcje i szczegóły, które pojawiają się w przypadku konkretnych celów dotyczących produktu lub usługi.
Przypisy
[1] Głębokie sieci, które są szkolone jako jedna jednostka i działają bez połączenia z innymi sztucznymi sieciami, niekoniecznie są monolityczne. Większość praktycznych głębokich sieci ma niejednorodną sekwencję warstw pod względem funkcji aktywacyjnych i często typów komórek.