Dlaczego badania algorytmów genetycznych uległy spowolnieniu?


45

Omawiając dziś niektóre tematy wprowadzające, w tym wykorzystanie algorytmów genetycznych; Powiedziano mi, że badania naprawdę spowolniły w tej dziedzinie. Podany powód był taki, że większość ludzi koncentruje się na uczeniu maszynowym i eksploracji danych.
Aktualizacja: czy to jest dokładne? A jeśli tak, jakie zalety ma ML / DM w porównaniu z GA?


2
Proszę przeformułować pytanie, tak aby prosiło o mniej opinii, ale więcej faktów (np. Wady GA / EA, które z czasem stały się bardziej widoczne).
Raphael

1
O ile wiem, jeśli podano wiele algorytmów, które mogą rozwiązać konkretny problem, GA w większości przypadków nie będzie najlepszy.
Strin,

Odpowiedzi:


33

Cóż, uczenie maszynowe w znaczeniu statystycznego rozpoznawania wzorców i eksploracji danych to zdecydowanie gorętsze obszary, ale nie powiedziałbym, że badania algorytmów ewolucyjnych uległy szczególnie spowolnieniu. Te dwa obszary zasadniczo nie są stosowane do tego samego rodzaju problemów. Nie jest od razu jasne, w jaki sposób podejście oparte na danych pomaga, na przykład, dowiedzieć się, jak najlepiej zaplanować zmiany pracowników lub efektywniej trasować paczki.

Metody ewolucyjne są najczęściej stosowane w przypadku trudnych problemów optymalizacji, a nie w rozpoznawaniu wzorców. Najbardziej bezpośrednimi konkurentami są podejścia do badań operacyjnych, w zasadzie programowanie matematyczne i inne formy wyszukiwania heurystycznego, takie jak wyszukiwanie tabu, symulowane wyżarzanie i dziesiątki innych algorytmów zwanych wspólnie „metaheurystykami”. Istnieją dwie bardzo duże doroczne konferencje na temat obliczeń ewolucyjnych (GECCO i CEC), mnóstwo mniejszych konferencji, takich jak PPSN, EMO, FOGA i Evostar, oraz co najmniej dwa duże czasopisma wysokiej jakości (Transakcje IEEE na temat obliczeń ewolucyjnych i prasa MIT czasopismo Evolution Computation), a także kilka mniejszych, w których część EC koncentruje się na szerszym zakresie.

To powiedziawszy, istnieje kilka zalet, które ogólnie uważa się za „uczenie maszynowe” w każdym porównaniu „gorąca”. Po pierwsze, opiera się na znacznie twardszych podstawach teoretycznych, które matematycy zawsze lubią. Po drugie, jesteśmy w złotej erze dla danych, a wiele nowatorskich metod uczenia maszynowego naprawdę zaczyna świecić dopiero, gdy otrzyma mnóstwo danych i ton mocy obliczeniowej, i w obu aspektach czas jest w pewnym sensie "dobrze".


Czy możesz wyjaśnić / podkreślić, jaka jest twoja odpowiedź na pytanie?
Raphael

Nie jestem pewien, o czym konkretnie chciałbym się zająć.
deong

Wystarczy wyraźnie odpowiedzieć na pytanie PO: jakie są (twarde) zalety ML w stosunku do GA / EA? A może proponujesz coś ortogonalnego?
Raphael

2
Mówię, że nie (przeważnie) nie dotyczą tych samych problemów. Zaletą ML jest to, że działa naprawdę dobrze do rozpoznawania i klasyfikacji wzorów; zaletą GA jest to, że pracują nad trudnymi problemami z optymalizacją. Poza tym to tak, jakby prosić o zalety samochodów w stosunku do domów. Wiele algorytmów ML wymaga rozwiązania problemu optymalizacji jako etapu szkolenia, a istnieją podejścia oparte na GA (uczące się systemy klasyfikacyjne), ale w większości są to po prostu zupełnie inne obszary.
Deong

21

Kilkadziesiąt lat temu ludzie myśleli, że algorytmy genetyczne i ewolucyjne były szwajcarskimi nożami wojskowymi, napędzanymi spektakularnymi wczesnymi wynikami. Stwierdzenia takie jak hipoteza blokowa zostały sformułowane w celu udowodnienia, że ​​były to ogólnie dobre strategie.

Jednak rygorystyczne wyniki były powolne i często wytrzeźwiały, przede wszystkim twierdzenie o braku darmowego lunchu . Stało się oczywiste, że algorytmy genetyczne / ewolucyjne są często przyzwoitą heurystyką, ale w żadnym sensie nigdy nie są optymalne.

Dziś wiemy, że im więcej wiemy o problemie odpowiednio o jego strukturze, tym mniej sensowne jest stosowanie algorytmów genetycznych / ewolucyjnych, ponieważ inne metody wykorzystujące tę wiedzę przewyższają je o wielkość. Jednak w przypadkach, gdy niewiele wiadomo na temat danego problemu, nadal pozostają one realną alternatywą, ponieważ w ogóle działają.


8
Uważam, że należy podkreślić, że NFLT określa „ograniczenia” nie tylko GA, ale wszystkich heurystycznych algorytmów wyszukiwania. Żaden z nich nie jest świetny w każdym przypadku, więc w twoim znaczeniu żaden z nich nie jest optymalny w żadnym sensie.
Juho

Pamiętam użycie algorytmów genetycznych do rozwiązania problemu aerodynamicznego, a po tygodniach i tygodniach obliczeń wynik był nieskończenie gorszy niż wynik dostarczony przez najbardziej szorstką teorię aerodynamiczną. Mam wrażenie, że sztuczna inteligencja i podobne funkcje absolutnie nie zastępują wiedzy o domenie
5193682

@ user9589 Oba nie wykluczają się wzajemnie. Znajomość domen może pomóc Ci wybrać i dostroić metody heurystyczne.
Raphael

@ Rafael Powiedziałbym, że sztuczna inteligencja pomaga dostroić wiedzę w dziedzinie.
user5193682,

13

Krytycznej części historii, tak jak ją widzę, brakuje w innych dotychczasowych odpowiedziach:

Algorytmy genetyczne są najbardziej przydatne w przypadku problemów z wyszukiwaniem siłowym.

W wielu kontekstach prostsze strategie optymalizacji lub modele wnioskowania (co ogólnie można by nazwać uczeniem maszynowym) mogą działać bardzo dobrze i wykonywać o wiele bardziej efektywnie niż wyszukiwanie siłowe.

Algorytmy genetyczne, takie jak symulowane wyżarzanie, są najskuteczniejsze jako strategia radzenia sobie z tak trudnymi (np. Kompletnymi NP) problemami wyszukiwania. Domeny te są zwykle tak ograniczone przez wewnętrzną twardość problemów, że poprawianie i iterowanie skromnych czynników w strategii rozwiązania, poprzez stopniowe ulepszanie algorytmów genetycznych, często nie jest zbytnio użyteczne, a więc nie jest strasznie ekscytujące.


12

Do pewnego stopnia uczenie maszynowe staje się coraz bardziej matematyczne, a algorytmy można „udowodnić”, że działają. W pewnym sensie GA są bardzo „wth tam” i nie możesz doskonale odpowiedzieć na pytanie „więc co zrobił twój program?” (zresztą w oczach niektórych ludzi).

Osobiście opowiadam się za łączeniem sieci neuronowych i GA = GANN. W mojej pracy dyplomowej stworzyłem algorytm przewidywania narkotyków, najpierw używając NN, potem GA, a na koniec GANN, który wykorzystał to, co najlepsze z obu światów i przewyższył oba pozostałe zestawy. Jednak YMMV.


2
Podaj prosty przykład, w którym zalety „ML” stają się oczywiste w celu przedstawienia dowodów na twoje roszczenia. Proszę również podać odpowiednie odniesienie / link do swojej pracy magisterskiej.
Raphael


4

Uczenie maszynowe przedstawia dużą część aparatury matematycznej, którą należy opracować i zastosować. Algorytmy genetyczne wykonywane głównie przez heurystykę.


2
Możesz udowodnić coś o GA / EA. Jest to jednak trudne. Podczas gdy ML ma rygorystyczne podstawy, ci, którzy stosują techniki ML, często robią to w sposób doraźny. Czy twój argument istnieje tylko na papierze, czy jest jakaś różnica w praktyce?
Raphael
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.