Teoretyczne wyniki dla losowych lasów?

Losowe lasy mają wśród praktyków reputację jednych z najbardziej skutecznych technik klasyfikacji. Jednak nie spotykamy ich zbyt wiele w literaturze teoretycznej, z której, jak sądzę, brak głębokich wyników teoretycznych. Gdyby ktoś chciał zagłębić się w tę teorię, od czego by to się zaczęło?

Po odpowiedzi Simone Gerard Biau ma kilka bardzo dobrych artykułów na temat zbieżności i spójności losowych lasów. Analizy dotyczą nieco uproszczonych wersji algorytmu w porównaniu z Breimanem 2001, ale mniej uproszczonych niż poprzednie wyniki.

Artykuły Biau (wraz z jego współpracownikami) są dostępne na jego stronie internetowej:

http://www.lsta.upmc.fr/BIAU/publications.html

Szczególnie istotne są prace „w prasie” na temat spójności: http://www.lsta.upmc.fr/BIAU/sbv.pdf

Istnieją 2-3 inne artykuły z losową zawartością lasu. Właśnie dołączyłem do cstheory, więc nie mogę opublikować więcej niż dwóch linków, ale powyższa witryna z publikacjami zawiera je wszystkie.

Mam nadzieję, że to pomoże. Wygląda na to, że nastąpił gwałtowny wzrost aktywności od 2008 r., Po okresie w dużej mierze empirycznym zastosowaniu tej metody. Dobrą wiadomością jest to, że badania teoretyczne wydają się wykazywać, że metoda jest solidna i ma dobre właściwości.

Wydaje mi się, że już rzuciłeś okiem na artykuł Breimana z 2001 roku na temat RF. Mogę tylko wskazać kilka innych odniesień:

Porównania empiryczne różnych uproszczeń RF, które pozwalają dowieść twierdzeń: Zawężenie luki: Losowe lasy w teorii i praktyce

To jest najnowsza referencja, którą mogę podać. W tym artykule można również znaleźć kilka cytatów artykułów Biau na temat wstępnych prac nad teoretycznymi wynikami dla RF.

Jeśli interesują Cię teoretyczne wyniki dotyczące zmiennej wagi w RF: Zrozumienie zmiennego znaczenia w lasach losowych drzew

Właśnie dowiedziałem się, że autor ostatniego artykułu (Gilles Louppe) właśnie opublikował w arxiv swoją pracę doktorską (v2): Zrozumienie losowych lasów: od teorii do praktyki