Jaka jest różnica między regresją dwumianową a regresją logistyczną?

Zawsze myślałem o regresji logistycznej jako po prostu szczególnym przypadku regresji dwumianowej, w którym funkcja połączenia jest funkcją logistyczną (zamiast, powiedzmy, funkcji probit).

Jednak po przeczytaniu odpowiedzi na inne pytanie brzmię, jakbym mógł się pomylić, i istnieje różnica między regresją logistyczną a regresją dwumianową z łączem logistycznym.

Co za różnica?

regression logistic binomial

— raegtin
źródło

Regresja logistyczna to regresja dwumianowa z funkcją łącza „logistycznego”:

g (p) = \log (\frac{p}{1 - p}) = X β

$g(p)=\log\left(\frac{p}{1-p}\right)=X\beta$

Chociaż myślę również, że regresja logistyczna jest zwykle stosowana do proporcji dwumianowych, a nie do liczb dwumianowych.

— prawdopodobieństwo prawdopodobieństwa
źródło

Co masz na myśli mówiąc, że regresja logistyczna jest zwykle stosowana do proporcji, a nie do zliczeń? Przypuśćmy, że próbuję przewidzieć, czy ludzie wezmą udział w imprezie, a jeśli chodzi o konkretną imprezę, wiem, że uczestniczyło w niej 9 osób, a 1 nie. Czy masz na myśli, że regresja logistyczna bierze to za jeden przykład szkolenia (tj. ta partia osiągnęła wskaźnik skuteczności 0,9), podczas gdy regresja dwumianowa z linkiem przyjęłaby to jako 10 przykładów szkolenia (9 sukcesów, 1 porażka)?

— raegtin

@raehtin - w obu przypadkach byłby to

przypadek próbny / szkoleniowy, przy czym odpowiednio

. Różnica jest formą funkcji średniej i wariancji. W przypadku dwumianu średnia wynosi

, łącze kanoniczne jest teraz

1

$1$

(n_{i}, f_{i}) = (10, 0.9)

$(n_i,f_i)=(10,0.9)$

(n_{i}, x_{i}) = (10, 9)

$(n_i,x_i)=(10,9)$

μ_{i} = n_{i} p_{i}

$\mu_i=n_ip_i$

(zwany również „parametrem naturalnym”), a funkcją wariancji jest

\log (\frac{μ_{i}}{n_{i} - μ_{i}})

$\log\left(\frac{\mu_i}{n_i-\mu_i}\right)$

z parametrem dyspersji

. Dla logistyki mamy średnią

, powyższe ogniwo, funkcję wariancji

oraz dyspersję równą

V (μ_{i}) = \frac{μ_{i} (n_{i} - μ_{i})}{n_{i}}

$V(\mu_i)=\frac{\mu_i(n_i-\mu_i)}{n_i}$

ϕ_{i} = 1

$\phi_i=1$

μ_{i} = p_{i}

$\mu_i=p_i$

V (μ_{i}) = μ_{i} (1 - μ_{i})

$V(\mu_i)=\mu_i(1-\mu_i)$

ϕ_{i} = \frac{1}{n_{i}}

$\phi_i=\frac{1}{n_i}$

— probabilityislogic

Z logistycznego The

oddziela się od średniej i wariancji funkcje, więc łatwiej można wziąć pod uwagę poprzez ważenie

n_{i}

$n_i$

— probabilityislogic

Ach, rozumiem, myślę, że rozumiem. Czy to oznacza, że dają one równoważne wyniki (po prostu uzyskane z innej drogi)?

— raegtin

@raegtin - tak mi się wydaje. Wagi GLM,

w_{i}^{2} = \frac{1}{ϕ_{i} V (μ_{i}) [g^{'} (μ_{i})]^{2}}

$w_{i}^{2}=\frac{1}{\phi_i V(\mu_i)[g'(\mu_i)]^{2}}$

$\mbox{var}(Y) = \hat{Y}(1-\hat{Y})$ $\hat{Y} = \mbox{logit}^{-1}(\mathbf{X}\hat{\beta})=1/(1-\exp{(\mathbf{X}\hat{\beta})})$ $[0,1]$

— AdamO
źródło