Splajny w GLM i GAM

Czy to źle, że splajny są dostępne tylko w modelach GAM, a nie w modelach GLM? Słyszałem to jakiś czas temu i zastanawiam się, czy to tylko nieporozumienie, czy też ma w tym trochę prawdy. Oto ilustracja:

generalized-linear-model splines

— Hej, Jane
źródło

Odpowiedzi:

Mylisz się. Splajny mają liniową reprezentację przy użyciu pochodnych zmiennych towarzyszących. Na przykład trend kwadratowy jest nieliniowy, ale można go modelować w modelu liniowym, przyjmując: , zatem i jego kwadrat są wprowadzane w model liniowy. $E[Y|X] = \beta_0 + \beta_1 X + \beta_2 X^2$ $X$

Splajn może być po prostu postrzegany jako wyrafinowana parametryzacja jednego lub więcej ciągłych lub pseudo-ciągłych zmiennych towarzyszących.

— AdamO
źródło

Dziękuje za odpowiadanie! Mówiąc, że się mylę, masz na myśli, że splajny mogą być używane w GLM, prawda? Nie do końca zrozumiałem.

— HeyJane,

Tak, absolutnie. W R zaimportuj pakiet splines, a uruchomienie bs(...)pozwala utworzyć liniową reprezentację splajnu z określonym przez użytkownika stopniem wielomianu i punktami węzła.

— AdamO,

Dużo pisałem o tym pytaniu tutaj: madrury.github.io/jekyll/update/statistics/2017/08/04/…

— Matthew Drury

Dziękuję wam obojgu! Widzę to teraz, AdamO! Świetna strona, Matthew, przeczytam to wszystko! :)

— HeyJane,

Odpowiedź @ AdamO jest prawidłowa, ponieważ dopasowania oparte na splajnie można z pewnością wykonać w standardowym frameworku GLM. Nie oznacza to jednak, że GAM to tylko specjalny przypadek GLM! Chociaż istnieje szereg modeli, które są dokładnie identyczne i mogą być oprawiane zarówno jako GAM, jak i GLM z rozszerzeniem splajnu współzmiennych, istnieją pewne modele GAM, które nie są dostępne w standardowym frameworku GLM.

Na przykład można dopasować model GAM za pomocą wygładzającego splajnu dla każdej z zmiennych towarzyszących. Zasadniczo skutkuje to spline rozszerzeniem zmiennych, ale z karą za drugie pochodne. Powoduje to, że model jest nieco poza standardową strukturą GLM.

Ponadto jest często uważany za standardową procedurę i jest wbudowany w większość bibliotek GAM, aby dopasować parametry wygładzania (tj. Stopnie swobody splajnu itp.) Poprzez optymalizację różnych miar błędów poza próbką, podczas gdy formuła GLM zazwyczaj uwzględnia przestrzeń współzmienną naprawiony.

— Cliff AB
źródło

Chciałbym móc cię głosować, ale nie mam wystarczającej liczby punktów. Dziękujemy za pomoc. Nie jestem pewien, czy rozumiem twój drugi akapit: mówisz, że wygładzanie splajnów można dopasować tylko do GAM? Czy możesz wyjaśnić, jaka dokładnie jest różnica między regularnym splajnem sześciennym a wygładzającym splajnem sześciennym? Rozumiem, że to jest wiele pytań.

— HeyJane,

@HeyJane: jeśli spojrzysz na stronę wikipedii, zauważysz, że splajny są karane przez ich drugą pochodną. Pozwala to kontrolować gładkość za pomocą ciągłej kary, a nie całkowitych stopni swobody. Jako taki, jest to problem karalny maksymalnego prawdopodobieństwa, a nie standardowy problem maksymalnego prawdopodobieństwa. Oznacza to, że nie można dopasować ich bezpośrednio glmfunkcją R , w przeciwieństwie do używania standardowych splajnów sześciennych z glm.

— Cliff AB,

Aha! Rozumiem! Więc zamiast zwykłego splajnu sześciennego, mówiącego, że chcemy tylko, aby drugie pochodne były równe w węzłach, chcemy nałożyć pewną właściwość na drugą pochodną, tj. Drugą pochodną, która nie jest zbyt wysoka, stąd termin kary?

— HeyJane,

@HeyJane: tak, powiedziałbym, że to dobre podsumowanie.

— Cliff AB,