Regresja moderowana: Dlaczego obliczamy termin * iloczyn * między predyktorami?

12

Analizy moderowanej regresji są często stosowane w naukach społecznych do oceny interakcji między dwoma lub więcej predyktorami / zmiennymi towarzyszącymi.

Zazwyczaj przy dwóch zmiennych predykcyjnych stosuje się następujący model:

$Y = β_0 + β_1*X + β_2*M + β_3*XM + e$

Zauważ, że test moderacji jest operacjonalizowany przez iloczyn produktu $XM$ (pomnożenie między zmienną niezależną $X$ i zmienną moderatora $M$ ). Moje bardzo podstawowe pytanie brzmi: dlaczego faktycznie obliczamy termin produktu między $X$ a $M$ ? Dlaczego nie na przykład absolutna różnica $|M-X|$ czy po prostu suma $X + M$ ?

Co ciekawe, Kenny nawiązuje do tego problemu tutaj http://davidakenny.net/cm/moderation.htm , mówiąc: „Jak się okaże, test moderacji nie zawsze jest operacjonalizowany przez określenie produktu XM”, ale nie podano dalszych wyjaśnień . Wydaje mi się, że formalna ilustracja lub dowód byłby pouczający.

regression interaction

— mianownik
źródło

12

„Moderator” wpływa na współczynniki regresji względem : mogą się zmieniać wraz ze zmianami wartości moderatora. Tak więc w pełnej ogólności jest to prosty model regresji moderacji $Y$ $X$

E (Y) = α (M) + β (M) X

$\mathbb{E}(Y) = \alpha(M) + \beta(M)X$

gdzie a są funkcje moderatora zamiast stałych nie zmieniona w . $\alpha$ $\beta$ $M$ $M$

W tym samym duchu, w którym regresja opiera się na liniowym przybliżeniu zależności między i , możemy mieć nadzieję, że zarówno i są - przynajmniej w przybliżeniu - liniowymi funkcjami całym zakresie wartości w danych: $X$ $Y$ $\alpha$ $\beta$ $M$ $M$

\begin{aligned} E (Y) & = α_{0} + α_{1} M + O (M^{2}) + (β_{0} + β_{1} M + O (M^{2})) X \\ = α_{0} + β_{0} X + α_{1} M + β_{1} M X + O (M^{2}) + O (M^{2}) X . \end{aligned}

$\eqalign{ \mathbb{E}(Y) &= \alpha_0 + \alpha_1 M + O(M^2) + (\beta_0 + \beta_1 M + O(M^2))X \\ &= \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + O(M^2) + O(M^2)X. }$

Porzucenie terminów nieliniowych („duże-O”) w nadziei, że są one zbyt małe, aby mieć znaczenie, daje multiplikatywny (dwuliniowy) model interakcji

\begin{matrix} (1) & E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X . \end{matrix}

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX.\tag{1}$

To wyprowadzenie sugeruje interesującą interpretację współczynników: to szybkość, z jaką zmienia punkt przecięcia, podczas gdy to szybkość, z jaką zmienia nachylenie . ( i są nachyleniem i przecięcia, gdy jest (formalnie) ustawiony na zero). jest współczynnikiem „terminu produktu” . Odpowiada na pytanie w ten sposób: $\alpha_1$ $M$ $\beta_1$ $M$ $\alpha_0$ $\beta_0$ $M$ $\beta_1$ $MX$

Modelujemy moderacji z terminem produktu jeśli oczekujemy moderator będzie (w przybliżeniu średnio) mają liniową zależność nachylenia vs . $MX$ $M$ $Y$ $X$

Interesujące jest to, że to wyprowadzenie wskazuje drogę do naturalnego rozszerzenia modelu, co może sugerować sposoby sprawdzania dobroci dopasowania. Jeśli nie przejmujesz się nieliniowością w wiesz lub zakładasz, że model jest dokładny - wtedy chciałbyś rozszerzyć model, aby uwzględnić odrzucone terminy: $X$ $(1)$

E (Y) = α_{0} + β_{0} X + α_{1} M + β_{1} M X + α_{2} M^{2} + β_{2} M^{2} X .

$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + \alpha_2M^2 + \beta_2 M^2X.$

Testowanie hipotezy ocenia dopasowania. Oszacowanie i może wskazywać, w jaki sposób model może wymagać rozszerzenia: w celu uwzględnienia nieliniowości w (kiedy ) lub bardziej skomplikowanej relacji moderującej (kiedy ) lub ewentualnie obie. (Należy zauważyć, że ten test nie byłby sugerowany przez rozszerzenie szeregu mocy funkcji ogólnej .) $\alpha_2=\beta_2=0$ $\alpha_2$ $\beta_2$ $(1)$ $M$ $\alpha_2 \ne 0$ $\beta_2 \ne 0$ $f(X,M)$

Na koniec, jeśli odkryjesz, że współczynnik interakcji nie różni się znacząco od zera, ale że dopasowanie jest nieliniowe (o czym świadczy znaczna wartość ), to wniosku, że (a) istnieje umiar, ale ( b) nie jest modelowany terminem , ale zamiast tego terminami wyższego rzędu zaczynającymi się od . To może być zjawisko, o którym mówił Kenny. $\beta_1$ $\beta_2$ $MX$ $M^2X$

— Whuber
źródło

8

Jeśli użyjesz sumy predyktorów do modelowania ich interakcji, równanie wyglądałoby następująco:

\begin{array}{rcl} Y & = & β_{0} + β_{1} X + β_{2} M + β_{3} (X + M) + e \\ = & β_{0} + β_{1} X + β_{2} M + β_{3} X + β_{3} M + e \\ = & β_{0} + (β_{1} + β_{3}) X + (β_{2} + β_{3}) M + e \\ = & β_{0} + β_{1}^{'} X + β_{2}^{'} M + e \end{array}

$\begin{eqnarray} Y &=& \beta_0 + \beta_1X + \beta_2M + \beta_3(X + M) + e\\ &=& \beta_0 + \beta_1X + \beta_2M + \beta_3X + \beta_3M + e\\ &=& \beta_0 + (\beta_1 + \beta_3)X + (\beta_2 + \beta_3)M + e \\ &=& \beta_0 + \beta_1'X + \beta_2'M + e \end{eqnarray}$

gdzie i . Dlatego twój model w ogóle nie miałby żadnych interakcji. Oczywiście nie jest tak w przypadku produktu. $\beta_1'=\beta_1+\beta_3$ $\beta_2'=\beta_2+\beta_3$

Przywołaj definicję wartości bezwzględnej:

| X - M | = {\begin{cases} X - M, & X \geq M \\ M - X, & X < M \end{cases}

$|X-M| = \begin{cases} X-M, & X \geq M\\ M-X, & X < M \end{cases}$

Chociaż możesz zmniejszyć model do tego, który ma tylko i , używając def. z, wartość bezwzględna to „wyspecjalizowana forma moderacji, która prawdopodobnie nie będzie realistyczna w wielu sytuacjach”, jak wskazano w komentarzu poniżej. $\beta_0 + \beta_1X + \beta_2M + \beta_3|X-M| + e$ $X$ $M$ $|X-M|$

— Milos
źródło

1

Właściwie włączająctermin jest wyraźnie formą moderacji: wartość zmienia . Jest to jednak ograniczona, wyspecjalizowana forma moderacji, która jest mało prawdopodobna w wielu sytuacjach. Nie jest poprawne stwierdzenie, że taki model ma „tylko główne efekty”.

| X - M |

$|X-M|$

M

$M$

β_{2}

$\beta_2$

— whuber

1

Tak, masz rację,jest formą moderacji, dałem się ponieść transformacji i odpowiednio zmienię odpowiedź. Dzięki za zwrócenie na to uwagi.

| X - M |

$|X-M|$

— Milos

@Milos: Twój przykład na temat sumy predyktorów był otwieraczem do oczu, nieco zawstydzającym, muszę powiedzieć, ponieważ powinienem był już zrozumieć matematyczne implikacje;) whuber: O ile rozumiem, wartość bezwzględna jest użyteczna gdy obie zmienne predykcyjne są mierzone w tych samych jednostkach (np. dwa testy psychometryczne, przy użyciu tej samej miary, takiej jak wyniki Z lub T). Bezwzględna różnica między X i M jest użyteczną miarą, choć nie jedyną możliwą (tzn. Można również użyć terminu prodcut).

— mianownik

6

Nie znajdziesz formalnego dowodu na używanie moderatora multiplikatywnego. Możesz wesprzeć to podejście innymi sposobami. Na przykład spójrz na rozszerzenie Taylora-MacLaurina dla funkcji : $f(X,M)$

f (X, M) = f (0, 0) + \frac{\partial f (0, 0)}{\partial T} T + \frac{\partial f (0, 0)}{\partial M} M + \frac{\partial^{2} f (0, 0)}{\partial T \partial M} T M + \frac{\partial^{2} f (0, 0)}{2 \partial T^{2}} T^{2} + \frac{\partial^{2} f (0, 0)}{2 \partial M^{2}} M^{2} \dots

$f(X,M)=f(0,0)+\frac{\partial f(0,0)}{\partial T} T+\frac{\partial f(0,0)}{\partial M} M+\frac{\partial^2 f(0,0)}{\partial T\partial M} TM +\frac{\partial^2 f(0,0)}{2\partial T^2} T^2 +\frac{\partial^2 f(0,0)}{2\partial M^2} M^2\dots$

Jeśli podłączysz funkcję tego formularza do równania Taylora, otrzymasz: $f(X,M)=\beta_0+\beta_XX+\beta_MM+\beta_{XM}XM$

f (X, M) = β_{0} + β_{X} X + β_{M} M + β_{X M} X M

$f(X,M)=\beta_0+\beta_XX +\beta_MM +\beta_{XM}XM$

Uzasadnieniem jest to, że ta szczególna multiplikatywna forma moderacji jest zasadniczo przybliżeniem Taylora drugiego rzędu ogólnej zależności moderacji $f(X,M)$

AKTUALIZACJA: jeśli dodasz wyrażenia kwadratowe, jak sugerował @whuber, to się stanie: podłącz to do Taylora:

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM+b_{X2}X^2 +b_{M2}M^2$

g (X, M) = b_{0} + b_{X} X + b_{M} M + b_{X M} X M + b_{X 2} X^{2} + b_{M 2} M^{2}

$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM +b_{X2}X^2 +b_{M2}M^2$

To pokazuje, że nasz nowy model z wyrażeniami kwadratowymi odpowiada pełnej aproksymacji Taylora drugiego rzędu, w przeciwieństwie do oryginalnego modelu moderacji . $g(X,M)$ $f(X,M)$

— Aksakal
źródło

Skoro podstawą twojego argumentu jest rozwinięcie Taylora, dlaczego nie uwzględniłeś również pozostałych dwóch kwadratowych terminów i ? To prawda, że nie są formami moderacji, ale ich włączenie do modelu zwykle wpływa na .

X^{2}

$X^2$

M^{2}

$M^2$ $\beta_{XM}$

— whuber

@ Whuber, postanowiłem skrócić post - to główny powód. W przeciwnym razie zacząłem pisać o moich preferencjach, aby dołączać warunki drugiego zamówienia za każdym razem, gdy masz okres przejściowy, a następnie je wyciąć.

— Aksakal