Jaki byłby przykładowy obraz liniowych modeli mieszanych?

Powiedz, że znajdujesz się w bibliotece swojego działu statystycznego i że na pierwszej stronie znajdujesz książkę z następującym obrazkiem.

wprowadź opis zdjęcia tutaj

Prawdopodobnie pomyślisz, że jest to książka o regresji liniowej.

Jaki obraz sprawiłby, że pomyślałeś o liniowych modelach mieszanych?

mixed-model

— ocram
źródło

Odpowiedzi:

Do rozmowy użyłem następującego obrazu, który jest oparty na zestawie sleepstudydanych z pakietu lme4 . Chodziło o to, aby zilustrować różnicę między dopasowaniami regresji niezależnej z danych specyficznych dla pacjenta (szarymi) a przewidywaniami z modeli efektów losowych, zwłaszcza że (1) przewidywane wartości z modelu efektów losowych są estymatorami skurczu i że (2) wspólne trajektorie osób wspólne nachylenie z modelem wyłącznie z przypadkowym przechwytywaniem (pomarańczowy). Rozkłady przechwyconych obiektów są pokazane jako szacunki gęstości jądra na osi y ( kod R ).

wprowadź opis zdjęcia tutaj
_{(Krzywe gęstości wykraczają poza zakres obserwowanych wartości, ponieważ obserwacji jest stosunkowo niewiele).}

Bardziej „konwencjonalna” grafika może być następna, pochodząca z Douga Batesa (dostępna na stronie R-forge dla lme4 , np. 4Longitudinal.R ), gdzie możemy dodawać indywidualne dane w każdym panelu.

wprowadź opis zdjęcia tutaj

— chl
źródło

+1. Dobry! Myślę, że twój pierwszy wątek jest świetny na poziomie koncepcyjnym. Moim jedynym komentarzem byłoby to, że wymaga znacznie więcej wyjaśnień niż standardowa fabuła „naiwna”, a jeśli publiczność nie jest na bieżąco z koncepcjami modeli LME i danych podłużnych, może nie rozumieć sedna fabuły. Jednak na pewno zapamiętam to dla solidnej „rozmowy o statystykach”. (Kilka razy widziałem już drugą fabułę w „książce Lme4”. Nie byłem wtedy pod wrażeniem i nie jestem też pod wrażeniem.)

— usεr11852 mówi: Przywróć Monic

@chl: Dzięki! Wybiorę spośród propozycji. W międzyczasie +1

— ocram

@ user11852 Rozumiem model RI, że szacunki OLS są poprawne, ale ich standardowe błędy nie są (z powodu braku niezależności), więc indywidualne prognozy również będą niepoprawne. Zazwyczaj pokazywałbym ogólną linię regresji przy założeniu niezależnych obserwacji. Następnie teoria mówi nam, że łączenie trybów warunkowych efektów losowych z oszacowaniami efektów stałych daje tryby warunkowe współczynników wewnątrz podmiotu, i będzie niewielki skurcz, gdy jednostki statystyczne będą różne lub gdy pomiary są dokładne, lub z duże próbki.

— chl

y | γ \sim N (X β + Z γ, σ^{2} I)

$y|\gamma \sim N(X\beta + Z\gamma, \sigma^2 I)$

y \sim N (X β, Z D Z^{T} + σ^{2} I)

$y \sim N(X\beta, ZDZ^T + \sigma^2 I)$

Link do kodu R w celu utworzenia obrazu jest zerwany. Byłbym zainteresowany tym, jak narysować rozkłady pionowo na rysunku.

— Niels Hameleers

Więc coś nie jest „wyjątkowo eleganckie”, ale pokazuje przypadkowe przechwyty i zbocza również z R. (Myślę, że byłoby jeszcze fajniej, gdyby pokazał również rzeczywiste równania) wprowadź opis zdjęcia tutaj

N =100; set.seed(123);


x1 = runif(N)*3; readings1 <- 2*x1 + 1.0 + rnorm(N)*.99;
x2 = runif(N)*3; readings2 <- 3*x2 + 1.5 + rnorm(N)*.99;
x3 = runif(N)*3; readings3 <- 4*x3 + 2.0 + rnorm(N)*.99;
x4 = runif(N)*3; readings4 <- 5*x4 + 2.5 + rnorm(N)*.99;
x5 = runif(N)*3; readings5 <- 6*x5 + 3.0 + rnorm(N)*.99;

X = c(x1,x2,x3,x4,x5);
Y = c(readings1,readings2,readings3,readings4,readings5)
Grouping  = c(rep(1,N),rep(2,N),rep(3,N),rep(4,N),rep(5,N))

library(lme4);
LMERFIT <- lmer(Y ~ 1+ X+ (X|Grouping))

RIaS <-unlist( ranef(LMERFIT)) #Random Intercepts and Slopes
FixedEff <- fixef(LMERFIT)    # Fixed Intercept and Slope

png('SampleLMERFIT_withRandomSlopes_and_Intercepts.png', width=800,height=450,units="px" )
par(mfrow=c(1,2))
plot(X,Y,xlab="x",ylab="readings")
plot(x1,readings1, xlim=c(0,3), ylim=c(min(Y)-1,max(Y)+1), pch=16,xlab="x",ylab="readings" )
points(x2,readings2, col='red', pch=16)
points(x3,readings3, col='green', pch=16)
points(x4,readings4, col='blue', pch=16)
points(x5,readings5, col='orange', pch=16)
abline(v=(seq(-1,4 ,1)), col="lightgray", lty="dotted");        
abline(h=(seq( -1,25 ,1)), col="lightgray", lty="dotted")   

lines(x1,FixedEff[1]+ (RIaS[6] + FixedEff[2])* x1+ RIaS[1], col='black')
lines(x2,FixedEff[1]+ (RIaS[7] + FixedEff[2])* x2+ RIaS[2], col='red')
lines(x3,FixedEff[1]+ (RIaS[8] + FixedEff[2])* x3+ RIaS[3], col='green')
lines(x4,FixedEff[1]+ (RIaS[9] + FixedEff[2])* x4+ RIaS[4], col='blue')
lines(x5,FixedEff[1]+ (RIaS[10]+ FixedEff[2])* x5+ RIaS[5], col='orange') 
legend(0, 24, c("Group1","Group2","Group3","Group4","Group5" ), lty=c(1,1), col=c('black','red', 'green','blue','orange'))
dev.off()

— usεr11852 mówi Reinstate Monic
źródło

Dzięki! Czekam jeszcze trochę na potencjalne nowe odpowiedzi ... ale mogę na tym oprzeć.

— ocram

Jestem trochę zdezorientowany twoją postacią, ponieważ prawidłowa intryga wygląda na mnie tak, jakby osobna linia regresji pasowała do każdej grupy. Czy nie chodzi o to, że model mieszany powinien różnić się od modelu niezależnego od grupy? Być może są, ale w tym przykładzie naprawdę trudno to zauważyć, czy coś mi brakuje?

— ameba mówi Przywróć Monikę

Tak, współczynniki są różne . Nie; osobna regresja nie była odpowiednia dla każdej grupy. Pokazano dopasowania warunkowe. W idealnie zrównoważonym, homoskedastycznym projekcie, jak ten, różnica będzie naprawdę trudna do zauważenia, na przykład przechwytywanie warunkowe grupy 5 wynosi 2,96, podczas gdy niezależne przechwytywanie dla grupy wynosi 3,00. Zmieniasz strukturę kowariancji błędów. Sprawdź również odpowiedź chi, ma więcej grup, ale nawet w nielicznych przypadkach dopasowanie jest „bardzo różne” wizualnie.

— usεr11852 mówi Przywróć Monic

Nie moja praca

Ten wykres zaczerpnięty z dokumentacji Matlaba dla nlmefit uderza mnie jako taki, który naprawdę ilustruje koncepcję przypadkowych przechwyceń i spadków. Prawdopodobnie coś pokazującego grupy heteroskedastyczności w resztkach wykresu OLS byłoby również dość standardowe, ale nie dałbym „rozwiązania”.

— usεr11852 mówi Reinstate Monic
źródło

Dzięki za Twoją sugestię. Chociaż wygląda to na mieszaną regresję logistyczną, myślę, że mogę to łatwo dostosować. Czekam na więcej sugestii. W międzyczasie +1. Dzięki jeszcze raz.

— ocram

Wygląda na mieszaną regresję logistyczną głównie dlatego, że jest jedna… :) To był pierwszy spisek, który naprawdę wpadł mi do głowy! W drugiej odpowiedzi dam coś czysto R.

— usεr11852 mówi: Przywróć Monic