Słyszałem, że regresję grzbietu można wyprowadzić jako średnią rozkładu z tyłu, jeśli uprzednio zostanie odpowiednio wybrany. Czy intuicja, że ograniczenia określone przez współczynniki regresji przez wcześniejsze (np. Standardowe rozkłady normalne około 0) są identyczne / zastępuje karę ustawioną na kwadrat wielkości współczynników? Czy przeor musi mieć charakter gaussowski, aby zachować tę równoważność?
Odpowiedzi:
Dwa punkty:
Rozkład tylny w przypadku Bayesa jest rozkładem. Oszacowanie regresji grzbietu jest po prostu wektorema nie dystrybucja. Dlatego nie są całkowicie równoważne.
Prawdą jest, że w przypadku wielowymiarowego prawdopodobieństwa normalnego przed i wielowymiarowego prawdopodobieństwa normalnego, tylny jest wielowymiarowy normalny ze średnią, która jest oszacowaniem regresji grzbietu dla odpowiednio wybranego parametru grzbietu.
Dowód na to zależy od konkretnej formy wcześniejszego i prawdopodobieństwa i nie działa w przypadku bardziej ogólnych priorytetów lub funkcji prawdopodobieństwa.