Czy drzewa wzmocnione gradientem mogą spełniać jakąkolwiek funkcję?

W przypadku sieci neuronowych mamy uniwersalne twierdzenie aproksymacyjne, które stwierdza, że sieci neuronowe mogą aproksymować dowolną funkcję ciągłą na zwartym podzbiorze . $R^n$

Czy istnieje podobny wynik dla drzew ze wzmocnieniem gradientu? Wydaje się to rozsądne, ponieważ można dodawać kolejne gałęzie, ale nie mogę znaleźć formalnej dyskusji na ten temat.

EDYCJA: Moje pytanie wydaje się bardzo podobne do Czy drzewa regresji mogą ciągle przewidywać? , choć może nie pytam dokładnie o to samo. Ale zobacz to pytanie w celu odpowiedniej dyskusji.

decision-trees

— Imran
źródło

Dobre pytanie! Nie mogłem znaleźć nic na ten temat, ale tutaj są PAC granice na drzewach decyzyjnych. Spróbuj ponownie zapytać o cstheory.

— Emre

Zobacz tutaj: projecteuclid.org/download/pdf_1/euclid.aos/1013203451 . To jest stara lektura. Wierzę, że ma to, czego szukasz. O ile rozumiem, w zasadzie mogą. Daj mi znać, co o tym sądzisz.

— TwinPenguins,

Tak - utwórz region dla każdego punktu danych (tj. Zapamiętaj dane treningowe).

Dlatego możliwe jest, aby drzewa ze wzmocnieniem gradientu pasowały do dowolnych danych treningowych, ale miałoby ograniczone uogólnienie do nowych danych.

— Brian Spiering
źródło