Moje pytania to:
- Czy uogólnione modele liniowe (GLM) są gwarantowane, że osiągną globalne maksimum? Jeśli tak, to dlaczego?
- Co więcej, jakie są ograniczenia funkcji łączenia w celu zapewnienia wypukłości?
Rozumiem GLM, że maksymalizują one wysoce nieliniową funkcję wiarygodności. Tak więc wyobrażam sobie, że istnieje kilka lokalnych maksimów, a zestaw parametrów, do którego się zbliżasz, zależy od warunków początkowych algorytmu optymalizacji. Jednak po przeprowadzeniu niektórych badań nie znalazłem ani jednego źródła, które wskazuje, że istnieje wiele lokalnych maksimów. Co więcej, nie znam się na technikach optymalizacji, ale wiem, że metoda Newtona-Raphsona i algorytm IRLS są bardzo podatne na lokalne maksima.
Proszę wyjaśnić, jeśli to możliwe, zarówno intuicyjnie, jak i matematycznie!
EDYCJA: dksahuji odpowiedział na moje pierwotne pytanie, ale chcę dodać pytanie uzupełniające [ 2 ] powyżej. („Jakie są ograniczenia funkcji łączenia w celu zapewnienia wypukłości?”)