Umieszczanie strzałek na biplocie PCA

Szukam zaimplementować biplot do analizy głównych składników (PCA) w JavaScript. Moje pytanie brzmi: jak określić współrzędne strzałek z wyjścia $U,V,D$ rozkładu pojedynczego wektora (SVD) macierzy danych?

Oto przykładowy dwupłat wyprodukowany przez R:

biplot(prcomp(iris[,1:4]))

Biplot zestawu danych Iris

Próbowałem to sprawdzić w artykule Wikipedii na temat biplota, ale nie jest to zbyt przydatne. Lub poprawnie. Nie jestem pewien który.

pca svd biplot

— ktdrv
źródło

Biplot to nakładkowy wykres rozrzutu pokazujący zarówno wartości U, jak i V. Lub UD i V. Lub U i VD ”. Lub UD i VD ”. Pod względem PCA, UD nazywane są surowymi wynikami głównego składnika, a VD 'są ładowaniami zmiennych składników.

— ttnphns,

Zauważ również, że skala współrzędnych zależy od tego, jak początkowo normalizujesz dane. Na przykład w PCA jeden normalnie dzieli dane przez sqrt (r) lub sqrt (r-1) [r to liczba wierszy]. Ale w prawdziwym „biplocie” w wąskim znaczeniu tego słowa zwykle dzieli się dane przez sqrt (rc) [c jest liczbą kolumn], a następnie

— dezormalizuje

Dlaczego dane muszą być skalowane o

\frac{1}{\sqrt{n - 1}}

$\frac{1}{\sqrt{n-1}}$

— ktdrv 10.03.19

@ttnphns: W ślad za powyższymi komentarzami napisałem odpowiedź na to pytanie, starając się przedstawić coś w rodzaju przeglądu normalizacji biplotów PCA. Jednak moja wiedza na ten temat jest czysto teoretyczna i wierzę, że masz o wiele więcej praktycznych doświadczeń z dwupłatami niż ja. Byłbym więc wdzięczny za wszelkie komentarze.

— ameba mówi Przywróć Monikę

Jednym z powodów wdrożenia rzeczy, @Aleksandr, jest dokładna wiedza o tym, co się dzieje. Jak widać, nie jest łatwo ustalić, co dokładnie się stanie, gdy się uruchomi biplot(). Ponadto, po co zawracać sobie głowę integracją R-JS dla czegoś, co wymaga zaledwie kilku wierszy kodu.

— ameba mówi Przywróć Monikę

Istnieje wiele różnych sposobów tworzenia dwupłatów PCA, więc nie ma unikalnej odpowiedzi na twoje pytanie. Oto krótki przegląd.

Zakładamy, że macierz danych ma punktów danych w rzędach i jest wyśrodkowana (tzn. Wszystkie kolumny są zerowe). Na razie nie zakładamy, że był on znormalizowany, tzn. Rozważamy PCA na macierzy kowariancji (nie na macierzy korelacji). PCA oznacza rozkład pojedynczej wartości możesz zobaczyć moją odpowiedź tutaj, aby uzyskać szczegółowe informacje: Związek między SVD a PCA. Jak korzystać z SVD do wykonywania PCA? $\mathbf X$ $n$

X = {U S V}^{⊤},

$\mathbf X=\mathbf{USV}^\top,$

W biplocie PCA dwa pierwsze główne składniki są wykreślane jako wykres rozproszenia, tj. Pierwsza kolumna jest wykreślana względem drugiej kolumny. Ale normalizacja może być inna; np. można użyć: $\mathbf U$

Kolumny : są to główne składniki skalowane do jednostkowej sumy kwadratów; $\mathbf U$
Kolumny : są to znormalizowane główne składniki (wariancja jednostkowa); $\sqrt{n-1}\mathbf U$
Kolumny : są to „surowe” główne elementy (rzuty na główne kierunki). $\mathbf{US}$

Ponadto oryginalne zmienne są wykreślane jako strzałki; czyli współrzędnych AN -tym strzałka końcowych są przez wartości -tym w pierwszej i drugiej kolumnie . Ale znowu można wybrać różne normalizacje, np .: $(x,y)$ $i$ $i$ $\mathbf V$

Kolumny : Nie wiem, jak mogłaby to być interpretacja; $\mathbf {VS}$
Kolumny : są to obciążenia; $\mathbf {VS}/\sqrt{n-1}$
Kolumny : są to główne osie (aka główne kierunki, aka wektory własne). $\mathbf V$

Oto jak to wszystko wygląda w zestawie danych Fisher Iris:

$9$ $\mathbf X$ $\mathbf{US}^\alpha \beta$ $\mathbf{VS}^{(1-\alpha)} / \beta$ $9$ są „odpowiednimi dwuplotami”: mianowicie kombinacją dowolnej podploty z góry z tą podplotem bezpośrednio.

[Jakakolwiek kombinacja zostanie użyta, może być konieczne skalowanie strzałek według dowolnego dowolnego stałego współczynnika, tak aby zarówno strzałki, jak i punkty danych pojawiały się mniej więcej w tej samej skali.]

$\mathbf{VS}/\sqrt{n-1}$ $\mathbf U\sqrt{n-1}$

Ten [szczególny wybór] prawdopodobnie zapewni najbardziej użyteczną pomoc graficzną w interpretacji wielowymiarowych matryc obserwacji, pod warunkiem oczywiście, że można je odpowiednio aproksymować na drugim miejscu.

$\mathbf{US}$ $\mathbf{V}$

$\mathbf {US}$

biplot $\mathbf U$ $\mathbf{VS}$ biplot $0.8$ biplot $n/(n-1)$ $1$ Strzały podstawowych zmiennych w biplocie PCA w R. )

PCA na macierzy korelacji

$\mathbf X$ $1$

$1$ $R=1$

Dalsza lektura:

Analiza PCA i korespondencji w odniesieniu do Biplota - szczegółowe traktowanie przez @ttnphns.
Jaka jest właściwa miara asocjacji zmiennej ze składnikiem PCA (na biplocie / wykresie ładowania)? - geometryczne wyjaśnienie @ttnphns, co oznaczają strzałki ładowania na dwupaku.

— ameba mówi Przywróć Monikę
źródło

+6, zasługuje na więcej niż 3 głosy poparcia.

— Gung - Przywróć Monikę

Właśnie zauważyłem, że? Ca :: plot.ca ma ładny przegląd różnych możliwych normalizacji: rozróżniają zasadę wiersza (forma biplot = rzędy w głównych współrzędnych, cols w standardowych współrzędnych), col main (kowariancja biplot = cols w głównych współrzędnych, wiersze w standardowych współrzędnych), symetryczny biplot (wiersze i kolumny skalowane w celu uzyskania wariancji równych liczbie pojedynczej (pierwiastki kwadratowe wartości własnych)), rowgab i colgab (wiersze w głównych współrzędnych i cols w standardowych współrzędnych pomnożone przez masę odpowiedniego punktu lub vice versa) i rowgreen i colgreen (jak rowgab i colgab, ale z sqrt (masy))

— Tom Wenseleers

Te ostatnie są również nazywane „dwupłatami składkowymi”; książka M. Greenacre „Biplots in praktyce” również daje ładny przegląd tego wszystkiego; te sposoby skalowania mają zastosowanie do wszystkich metod opartych na SVD (tj. biploty CA, biploty PCA, biploty LDA itp.); na przykład, jak to działa, zobacz kod źródłowy ca ::: plot.ca i argument „map”

— Tom Wenseleers

n - 1

$n-1$

@AntoniParellada Zredagowałem i wstawiłem kilka linków.

— ameba mówi Przywróć Monikę