Czy możliwe jest uruchomienie sieci neuronowej na mikrokontrolerze

23

Czy możesz zaimplementować prostą sieć neuronową w mikroprocesorze, takim jak Arduino Uno, do wykorzystania w uczeniu maszynowym?

microcontroller machine-learning

— Jordania
źródło

2

Z ciekawości dlaczego miałbyś chcieć?

— Josh Vander Hook

1

Nie jestem ekspertem w tej dziedzinie, ale ostatnio słyszałem, że szkolenie NN odbyło się w symulacji, a NN został zaimplementowany na podwoziu i prawdopodobnie z kontrolerem wyższego poziomu niż Arduino.

— Josh Vander Hook

1

Cóż, nie musisz go łączyć, po prostu trenuj NN w symulacji, a następnie wyodrębnij topologię NN, w tym wagi krawędzi i połączenia węzłów. Następnie programujesz NN (to tylko równanie, które musisz rozwiązać). Wydaje mi się, że zanim podejmiesz ten projekt, potrzeba trochę więcej badań.

— Josh Vander Hook

1

Prawdopodobnie warto wspomnieć, że mam 16 lat, a to moja główna praca z elektroniką w liceum.

— Jordan

1

W takim razie zakładam, że próbujesz to zrealizować, wykraczając poza obowiązek.

— Joe Baker

10

Czy możesz trenować sieć neuronową na mikrokontrolerze? Może, ale proszę nie próbuj. Czy możesz użyć NN do klasyfikacji itp. Na mikrokontrolerze? Jasne, o ile można obliczyć wynik propagacji wartości węzłów i krawędzi oraz obsługi mnożenia.

— Josh Vander Hook
źródło

1

Zgadzam się. Zakładając, że możesz uzyskać sieć neuronową o wymaganej złożoności, aby trenować na Arduino, nadal będziesz gotów na niesamowitą ilość czasu na szkolenie. Szkolenie NN poza statkiem to logiczna droga.

— fgb

23

Z pewnością można to zaimplementować na Arduino. Oto 3 takie biblioteki Arduino, które implementują sieci neuronowe:

Złożoność sieci, którą może obsłużyć Arduino, to osobne pytanie, zwłaszcza jeśli chodzi o szkolenie - dziesiątki tysięcy iteracji danych treningowych. Trening na szybkiej maszynie, a następnie kopiowanie ciężarów neuronów do Arduino będzie mądrzejszym sposobem na rozwinięcie implementacji.

— Ian
źródło

5

Tak. Jeśli uruchomisz go tylko w trybie przekazywania do przodu i trenujesz offline w innym miejscu:

Zaprogramowałem 3-warstwowy (5-5-2) feedforward ANN na Arduino UNO. Działał na mobilnym robocie. Ilekroć robot uderzył w coś, ponownie trenował sieć. Przekazywana część sieci działała w czasie rzeczywistym; podczas gdy trening propagacji wstecznej trwał około ~ 5 do 20 sekund. Przypuszczam, że możesz przyciąć rozmiar sieci, a także zabawę z parametrami, aby działała ona nieco szybciej, ale jeśli planujesz zrobić wsteczną propagację na Arduino, myślę, że byłoby to zbyt wolno.

Oto kilka pomysłów na przyspieszenie:

Użyj stałego vs zmiennoprzecinkowego (dla MCU bez FPU)
Użyj MCU, który ma FPU
$\tanh$
Niech faza szkolenia odbywa się offline na komputerze

Oto krótki write-up zrobiłem sieci.

— Jahma
źródło

3

Tak, rzeczywiście, możliwe jest osadzenie sieci neuronowej w mikrokontrolerach. Jest wiele takich przykładów w literaturze naukowej, ale mogę przytoczyć uderzający przykład tego, co można zrobić za pomocą bardzo prostego MCU, jeśli jesteś wystarczająco inteligentny. W Evolutionary Bits'n'Spikes autorzy opisują implementację sieci neuronowej wzbogacającej w czasie rzeczywistym ORAZ algorytm genetyczny do jej szkolenia w celu sterowania robotem różnicowym. Cały kod działa w niewielkim MCU PIC16F628 4MHz osadzonym w robocie Alice o przekątnej 1 cala sześciennego.

— abey
źródło