Zmienne są często korygowane (np. Standaryzowane) przed wykonaniem modelu - kiedy jest to dobry pomysł, a kiedy zły?

W jakich okolicznościach chciałbyś skalować lub standaryzować zmienną przed dopasowaniem modelu? A jakie są zalety / wady skalowania zmiennej?

Standaryzacja polega na wadze różnych zmiennych dla modelu. Jeśli wykonasz standaryzację „tylko” ze względu na stabilność numeryczną, mogą wystąpić transformacje, które dają bardzo podobne właściwości liczbowe, ale inne znaczenie fizyczne, które może być znacznie bardziej odpowiednie do interpretacji. To samo dotyczy centrowania, które zwykle stanowi część normalizacji.

Sytuacje, w których prawdopodobnie chcesz standaryzować:

• zmienne są różnymi wielkościami fizycznymi
• a wartości liczbowe mieszczą się w bardzo różnych skalach wielkości
• i nie ma „zewnętrznej” wiedzy, że zmienne o dużej zmienności (liczbowej) należy uznać za ważniejsze.

Sytuacje, w których możesz nie chcieć standaryzować:

• jeśli zmienne są tej samej wielkości fizycznej i mają (z grubsza) tej samej wielkości, np
  • względne stężenia różnych gatunków chemicznych
  • absorbancje przy różnych długościach fal
  • intensywność emisji (inaczej te same warunki pomiaru) przy różnych długościach fal
• zdecydowanie nie chcesz standaryzować zmiennych, które nie zmieniają się między próbkami (kanały podstawowe) - po prostu wysadziłeś szum pomiarowy (zamiast tego możesz wykluczyć je z modelu)
• jeśli masz takie fizycznie powiązane zmienne, twój szum pomiarowy może być mniej więcej taki sam dla wszystkich zmiennych, ale intensywność sygnału różni się znacznie bardziej. Tzn. Zmienne o niskich wartościach mają wyższy poziom hałasu względnego. Standaryzacja zniszczyłaby hałas. Innymi słowy, być może będziesz musiał zdecydować, czy chcesz ustandaryzować hałas względny czy absolutny.
• Mogą istnieć znaczące fizycznie wartości, które można wykorzystać do powiązania mierzonej wartości, np. Zamiast transmitowanej intensywności użyć procentu transmitowanej intensywności (transmitancja T).

Możesz zrobić coś „pomiędzy” i przekształcić zmienne lub wybrać jednostkę, aby nowe zmienne nadal miały fizyczne znaczenie, ale zmiana wartości liczbowej nie jest tak różna, np.

• jeśli pracujesz z myszami, użyj masy ciała gi długości w cm (oczekiwany zakres zmian około 5 dla obu) zamiast jednostek podstawowych kg im (oczekiwany zakres zmian 0,005 kg i 0,05 m - jeden rząd wielkości inny).
• $A = -log_{10} T$

Podobne do centrowania:

• Mogą istnieć (fizycznie / chemicznie / biologicznie / ...) znaczące wartości wyjściowe (np. Kontrole, ślepe itp.)
• Czy środek ma rzeczywiście znaczenie? (Przeciętny człowiek ma jeden jajnik i jedno jądro)

Przed standaryzacją zawsze zadaję sobie pytanie: „Jak zinterpretuję wynik?” Jeśli istnieje sposób analizy danych bez transformacji, może to być preferowane wyłącznie z punktu widzenia interpretacji.

Ogólnie nie polecam skalowania ani standaryzacji, chyba że jest to absolutnie konieczne. Zaletą lub atrakcyjnością takiego procesu jest to, że gdy zmienna objaśniająca ma zupełnie inny wymiar fizyczny i wielkość niż zmienna odpowiedzi, skalowanie przez podział przez odchylenie standardowe może pomóc pod względem stabilności numerycznej i umożliwia porównanie efektów na wielu wyjaśniające zmienne. Przy najbardziej powszechnej standaryzacji efekt zmienny jest wielkością zmiany zmiennej odpowiedzi, gdy zmienna objaśniająca wzrasta o jedno odchylenie standardowe; wskazuje również, że znaczenie efektu zmiennego (wielkość zmiany zmiennej odpowiedzi, gdy zmienna objaśniająca wzrośnie o jedną jednostkę) zostałaby utracona, chociaż wartość statystyczna dla zmiennej objaśniającej pozostaje niezmieniona. Jednak, gdy rozważa się interakcję w modelu, skalowanie może być bardzo problematyczne nawet w przypadku testów statystycznych z powodu komplikacji obejmującej stochastyczną korektę skalowania w obliczaniu standardowego błędu efektu interakcji (Preacher, 2003). Z tego powodu skalowanie według odchylenia standardowego (lub standaryzacji / normalizacji) zasadniczo nie jest zalecane, szczególnie w przypadku interakcji.

Preacher, KJ, Curran, PJ i Bauer, DJ, 2006. Narzędzia obliczeniowe do sondowania efektów interakcji w wielu regresji liniowej, modelowaniu wielopoziomowym i analizie krzywej utajonej. Journal of Educational and Behavioral Statistics, 31 (4), 437-448.