1) Argumentowałbym, że drzewa decyzyjne nie są tak interpretowalne, jak to robią ludzie. Oni wyglądają interpretacji, ponieważ każdy węzeł jest prosta decyzja binarny. Problem polega na tym, że gdy schodzisz w dół drzewa, każdy węzeł jest zależny od każdego węzła powyżej. Jeśli twoje drzewo ma tylko cztery lub pięć poziomów głębokości, nadal nie jest zbyt trudno przekonwertować ścieżkę jednego terminala (cztery lub pięć podziałów) na coś, co można zinterpretować (np. „Ten węzeł odzwierciedla długoterminowych klientów, którzy są mężczyznami o wysokich dochodach z wieloma kontami ”), ale próba śledzenia wielu węzłów końcowych jest trudna.
Jeśli wszystko, co musisz zrobić, to przekonać klienta, że Twój model jest interpretowalny („spójrz, w każdym kręgu jest prosta decyzja tak / nie, łatwa do zrozumienia, nie?”), To zachowałbym drzewa decyzji na twojej liście . Jeśli chcesz interpretowalności możliwej do zastosowania, sugeruję, że mogą nie zrobić cięcia.
2) Inną kwestią jest wyjaśnienie, co rozumiesz przez „interpretowalność wyników”. Natrafiłem na interpretację w czterech kontekstach:
Klient jest w stanie zrozumieć metodologię. (Nie o to pytasz.) Losowy las można dość łatwo wytłumaczyć przez analogię, a większość klientów czuje się z nim swobodnie, gdy zostanie wyjaśnione w prosty sposób.
Wyjaśnienie, w jaki sposób metodologia pasuje do modelu. (Miałem klienta, który nalegał, abym wyjaśnił, w jaki sposób dopasowuje się drzewo decyzyjne, ponieważ uważali, że pomogłoby to im zrozumieć, w jaki sposób lepiej wykorzystać wyniki. Po tym, jak napisałem bardzo fajną recenzję z mnóstwem ładnych diagramów, porzucili temat. Interpretacja / zrozumienie wcale nie jest pomocne.) Ponownie uważam, że nie o to pytasz.
Po dopasowaniu modelu interpretacja tego, co model „wierzy” lub „mówi” o predyktorach. Tutaj drzewo decyzyjne wygląda na interpretowalne, ale jest znacznie bardziej złożone niż pierwsze wrażenia. Regresja logistyczna jest tutaj dość prosta.
Gdy dany punkt danych jest klasyfikowany, wyjaśniając, dlaczego podjęto tę decyzję. Dlaczego regresja logistyczna mówi, że jest to 80% szansa na oszustwo? Dlaczego twoje drzewo decyzyjne mówi, że jest ono niskiego ryzyka? Jeśli klient jest zadowolony z drukowania węzłów decyzyjnych prowadzących do węzła końcowego, drzewo decyzyjne jest łatwe. Jeśli „dlaczego” trzeba streścić w mowie ludzkiej („ta osoba jest oceniana na niskie ryzyko, ponieważ jest długoterminowym klientem płci męskiej, który ma wysokie dochody i wiele kont w naszej firmie”), jest to o wiele trudniejsze.
Tak więc na jednym poziomie interpretowalności lub wyjaśnialności (nr 1 z odrobiną nr 4 powyżej), K-Nearest Neighbor jest łatwe: „ten klient został uznany za wysokiego ryzyka, ponieważ 8 na 10 klientów, którzy byli wcześniej oceniani i byli najbardziej podobne do nich pod względem X, Y i Z okazały się być wysokim ryzykiem. ” Na pełnym poziomie # 4 możliwym do działania, nie jest to tak interpretowalne. (Myślałem o przedstawieniu im pozostałych 8 klientów, ale wymagałoby to od nich dokładnego zbadania tych klientów, aby ręcznie ustalić, co ci klienci mają ze sobą wspólnego, a tym samym, co oceniany klient ma z nimi wspólnego).
Niedawno przeczytałem kilka artykułów na temat korzystania z metod podobnych do analizy wrażliwości, aby spróbować znaleźć automatyczne wyjaśnienia typu # 4. Nie mam jednak pod ręką. Być może ktoś może wrzucić linki do komentarzy?
