Dobroć dopasowania i który model wybrać regresję liniową lub Poissona

Potrzebuję porady dotyczącej dwóch głównych dylematów w moich badaniach, które są studium przypadku 3 dużych farmaceutyków i innowacji. Liczba patentów rocznie jest zmienną zależną.

Moje pytania są

Jakie są najważniejsze kryteria dobrego modelu? Co jest ważniejsze / mniej ważne? Czy to, że większość lub wszystkie zmienne będą znaczące? Czy to jest „F STATISTIC”? Czy jest to wartość „Skorygowanego R podniesionego do kwadratu”?
Po drugie, jak mogę wybrać najbardziej odpowiedni model do badań? Oprócz patentów, które są zmienną liczącą (więc może liczba Poissona), mam zmienne objaśniające, takie jak zwrot z aktywów, budżet na badania i rozwój, powtarzający się partner (% nie jest zmienną binarną), wielkość firmy (pracownicy) i kilka innych. Czy powinienem wykonać regresję liniową czy Poissona?

— Nitzan
źródło

Kjetil udzielił szczegółowej odpowiedzi. Szybsza i krótsza opinia zgodna z jego argumentem jest taka, że to, co nazywacie „drugim”, jest naprawdę ważnym pytaniem. To, o czym wspominasz jako pierwsze, jest przypadkowe.

— Nick Cox,

Najważniejsza jest logika modelu. Twoja zmienna „liczba patentów rocznie” jest zmienną zliczającą, więc wskazana jest regresja Poissona. Jest to GLM (uogólniony model liniowy) z (zwykle) funkcją logarytmiczną, podczas gdy zwykłą regresją liniową jest gaussowski GLM z łącznikiem tożsamości. W tym przypadku najważniejsza jest funkcja logarytmiczna, ważniejsza niż rozkład błędów (Poissona lub Gaussa).

Zmienna „Patenty” jest zmienną rozległą : patrz intensywne i rozległe właściwości . W przypadku zmiennych intensywnych , takich jak temperatura, często odpowiednie są modele liniowe (z łączem tożsamości). Ale z dużą zmienną jest inaczej. Pomyśl, że jedna z twoich firm farmaceutycznych podzieliła się na dwie różne firmy. Następnie patenty musiały zostać podzielone między dwie nowe firmy. Co dzieje się z zmiennymi zmiennymi, w twojej regresji? Zmienne, takie jak liczba pracowników i budżet RD, również musiałyby zostać podzielone. $x$

Zasadniczo w tym kontekście zmienna intensywna jest zmienną niezależną od wielkości firmy, natomiast zmienna ekstensywna zależy (zazwyczaj liniowo) od wielkości firmy. W pewnym sensie, jeśli w równaniu regresji mamy wiele różnych zmiennych ekstensywnych, wielokrotnie mierzymy efekty wielkości . Wydaje się to zbędne, dlatego powinniśmy starać się, w miarę możliwości, wyrażać zmienne w formie intensywnej , takie jak budżet RD na pracownika (lub jako procent całkowitego budżetu), podobnie przychody itp. Zmienna taka jak liczba pracowników będzie musiała pozostać jako rozległy. Zobacz odpowiedź @ onestop na Radzenie sobie ze skorelowanymi regresorami, aby uzyskać kolejną dyskusję na temat tego obszernego / intensywnego zagadnienia zmiennej.

Spójrzmy na to algebraicznie: są patentami, budżetem (na pracownika), pracownikami pierwotnej firmy, podczas gdy i są odpowiednimi zmiennymi po podziale. Załóżmy, jak wyżej, że jest jedyną rozległą zmienną zmienną (z , oczywiście również ekstensywną). $P, B, E$ $P_1, B_1, E_1$ $P_2, B_2, E_2$ $E$ $P$

Następnie, przed podziałem, mamy model, link tożsamości, z losową częścią pominiętą: Niech ułamki podzielone będą więc dla firmy 1 po podziale otrzymujemy od ale . Podobnie w przypadku firmy drugiej. Tak więc model zależy w dość skomplikowany sposób od wielkości firmy, tylko współczynnik regresji na

P. = μ + β_{1} mi + β_{2)} b

$P= \mu+\beta_1 E + \beta_2 B$

α, 1 - α

$\alpha, 1-\alpha$

\begin{aligned} α P. & = α μ + α β_{1} mi + α β_{2)} b \\ {P.}_{1} & = α μ + β_{1} {mi}_{1} + α β_{2)} b_{1} \end{aligned}

$\begin{align} \alpha P &= \alpha \mu +\alpha\beta_1 E +\alpha\beta_2 B \\[5pt] P_1 &= \alpha\mu + \beta_1 E_1 + \alpha\beta_2 B_1 \end{align}$

P_{1} = α P, E_{1} = α E

$P_1=\alpha P, E_1=\alpha E$

B_{1} = B

$B_1=B$

E

$E$ niezależny od wielkości firmy, wielkość wpływająca na wszystkie pozostałe parametry. To sprawia, że interpretacja wyników jest trudna, szczególnie, jeśli w swoich danych masz firmy różnej wielkości, to jak zamierzasz interpretować te współczynniki? Porównanie z innymi badaniami opartymi na innych danych itp. Staje się niezwykle skomplikowane.

Zobaczmy teraz, czy użycie funkcji linku do dziennika może pomóc. Ponownie piszemy wyidealizowane modele bez zakłóceń. Zmienne są jak wyżej.

Najpierw model przed podziałem: Po podziale, dla firmy pierwszej, otrzymujemy: Wygląda to prawie poprawnie, z wyjątkiem jednego problemu, część zależności od nie całkiem działa. Widzimy więc, że liczba pracowników, ta zmienna zmienna w dużej formie, musi być wykorzystana w skali logarytmicznej. Następnie, próbując ponownie, otrzymujemy:

P. = \exp (μ + β_{1} mi + β_{2)} b)

$P = \exp\left(\mu+\beta_1 E + \beta_2 B\right)$

\begin{aligned} {P.}_{1} & = \exp (\log α) \exp (μ + β_{1} mi + β_{2)} b) \\ {P.}_{1} & = \exp (\log α + μ + β_{1} mi + β_{2)} b_{1}) \end{aligned}

$\begin{align} P_1 &= \exp(\log\alpha) \exp\left(\mu+\beta_1 E + \beta_2 B\right) \\[5pt] P_1 &= \exp\left(\log\alpha+\mu+\beta_1 E +\beta_2 B_1 \right) \end{align}$

E

$E$

Model przed podziałem: Po podziale: gdzie jest nowym przechwyceniem. Teraz umieściliśmy model w formie, w której wszystkie parametry (z wyjątkiem przechwytywania) mają interpretację niezależną od wielkości firmy.

P. = \exp (μ + β_{1} \log mi + β_{2)} b)

$P = \exp\left(\mu+\beta_1 \log E + \beta_2 B\right)$

\begin{aligned} {P.}_{1} & = \exp (\log α) \exp (μ + β_{1} \log mi + β_{2)} b) \\ {P.}_{1} & = \exp (\log α + μ + β_{1} \log mi + β_{2)} b_{1}) \\ {P.}_{1} & = \exp ((1 - β) \log α + μ + β_{1} \log {mi}_{1} + β_{2)} b_{1}) \\ {P.}_{1} & = \exp (μ^{'} + β_{1} \log {mi}_{1} + β_{2)} b_{1}) \end{aligned}

$\begin{align} P_1 &= \exp(\log\alpha) \exp\left(\hspace{9.5mm}\mu+\beta_1 \log E + \beta_2 B\right) \\[5pt] P_1 &= \exp\left(\log\alpha+\hspace{6mm}\hspace{9.5mm}\mu+\beta_1 \log E +\beta_2 B_1 \right) \\[5pt] P_1 &= \exp\left((1-\beta)\log\alpha+\mu+\beta_1 \log E_1 +\beta_2 B_1\right) \\[5pt] P_1 &= \exp\left(\hspace{31mm}\mu'+\beta_1 \log E_1 +\beta_2 B_1\right) \end{align}$

μ^{'}

$\mu'$

To znacznie ułatwia interpretację wyników, a także porównania z badaniami wykorzystującymi inne dane, trendy z czasem i tak dalej. Nie można uzyskać tego formularza za pomocą parametrów z interpretacjami niezależnymi od wielkości za pomocą łącza tożsamości.

Wniosek: użyj GLM z funkcją logarytmiczną, może regresją Poissona lub dwumianą ujemną, lub ... Funkcja link jest ważniejsza o rząd wielkości!

Podsumowując, konstruując model regresji dla zmiennej odpowiedzi, która jest obszerna , jak zmienna zliczająca.

Spróbuj wyrazić zmienne zmienne w formie intensywnej.
Zmienne zmienne, które należy pozostawić jako rozległe: zaloguj je (powyższa algebra zależy od tego, że istnieje co najwyżej jedna zmienna rozległa).
Użyj funkcji linku do dziennika.

Następnie inne kryteria, takie jak oparte na dopasowaniu, mogą zostać wykorzystane do podjęcia wtórnych decyzji, takich jak rozkład terminu zakłócającego.

— kjetil b halvorsen
źródło

Myślałem regresja Poisson była regresja GLS z funkcji łącza dziennika?

— Sideshow Bob,

Zwykle tak, ale można również rozważyć regresję Poissona z łączem tożsamości (lub innym, takim jak pierwiastek kwadratowy). Ale mój argument tutaj pokazuje, że zwykle chcesz link do dziennika.

— kjetil b halvorsen

(1 - β)

$(1-\beta)$

μ

$\mu$