Statystyki i duże zbiory danych pca

3

Dlaczego używamy PCA do przyspieszania algorytmów uczenia się, skoro możemy po prostu zmniejszyć liczbę funkcji?

Na kursie uczenia maszynowego dowiedziałem się, że jednym z powszechnych zastosowań PCA ( Principal Component Analysis ) jest przyspieszenie innych algorytmów uczenia maszynowego. Na przykład wyobraź sobie, że trenujesz model regresji logistycznej. Jeśli masz zestaw treningowy dla i od 1 do n i okazuje się, że wymiar wektora x jest …

12 machine-learning pca

1

Kroki wykonane w analizie czynnikowej w porównaniu do kroków wykonanych w PCA

Wiem, jak wykonać PCA (analiza głównego składnika), ale chciałbym poznać kroki, które należy zastosować do analizy czynnikowej. Aby wykonać PCA, rozważmy macierz , na przykład:AAA 3 1 -1 2 4 0 4 -2 -5 11 22 20 Obliczyłem jej macierz korelacji B = corr(A): 1.0000 0.9087 0.9250 0.9087 1.0000 0.9970 …

12 pca factor-analysis algorithms

4

Wybór modelu PCA za pomocą AIC (lub BIC)

Chcę użyć Akaike Information Criterion (AIC), aby wybrać odpowiednią liczbę czynników do wyodrębnienia w PCA. Jedynym problemem jest to, że nie jestem pewien, jak określić liczbę parametrów. Rozważmy macierz X , gdzie N reprezentuje liczbę zmiennych, a T liczbę obserwacji, na przykład X \ sim \ mathcal N \ left …

12 pca model-selection

2

PCA i losowe lasy

W ostatnim konkursie Kaggle (ręcznie) zdefiniowałem 10 dodatkowych funkcji dla mojego zestawu treningowego, które następnie zostaną wykorzystane do wyszkolenia losowego klasyfikatora lasów. Postanowiłem uruchomić PCA w zestawie danych z nowymi funkcjami, aby zobaczyć, jak się ze sobą porównują. Odkryłem, że ~ 98% wariancji było przenoszone przez pierwszy składnik (pierwszy wektor …

12 classification pca random-forest

5

Czy mogę użyć PCA do dokonania wyboru zmiennych do analizy skupień?

Muszę zmniejszyć liczbę zmiennych, aby przeprowadzić analizę skupień. Moje zmienne są silnie skorelowane, więc pomyślałem o wykonaniu analizy czynnikowej PCA (analiza głównego składnika). Jeśli jednak użyję uzyskanych wyników, moje klastry nie będą całkiem poprawne (w porównaniu z poprzednimi klasyfikacjami w literaturze). Pytanie: Czy mogę użyć macierzy rotacji, aby wybrać zmienne …

12 clustering pca feature-selection factor-analysis

2

Co maksymalizują pierwsze

W analizie głównych składników pierwsze głównych składników to k ortogonalne kierunki o maksymalnej wariancji. Innymi słowy, pierwszy główny składnik jest wybrany jako kierunek maksymalnej wariancji, drugi główny składnik jest wybrany jako kierunek ortogonalny do pierwszego z maksymalną wariancją i tak dalej.kkkkkk Czy istnieje podobna interpretacja analizy czynnikowej? Na przykład myślę, …

12 pca factor-analysis

2

Jak korzystać z analizy głównych składników, aby wybrać zmienne do regresji?

Obecnie używam analizy głównych komponentów, aby wybrać zmienne do zastosowania w modelowaniu. W tej chwili wykonuję pomiary A, B i C w swoich eksperymentach - tak naprawdę chcę wiedzieć: czy mogę wykonać mniej pomiarów i przestać rejestrować C i lub B, aby zaoszczędzić czas i wysiłek? Uważam, że wszystkie 3 …

12 regression pca model-selection

1

Różnica między implementacjami PCA i TruncatedSVD w scikit-learn

Rozumiem związek między analizą głównych składników a rozkładem wartości osobliwych na poziomie algebraicznym / dokładnym. Moje pytanie dotyczy implementacji scikit-learn . Dokumentacja mówi: „ [TruncatedSVD] jest bardzo podobny do PCA, ale działa bezpośrednio na przykładowe wektory, zamiast na macierz kowariancji. ”, Co odzwierciedlałoby różnicę algebraiczną między obydwoma podejściami. Jednak później …

12 pca scikit-learn svd scipy

1

Jak wybrać jądro dla PCA jądra?

Jakie są sposoby wyboru, które jądro spowodowałoby dobre rozdzielenie danych w końcowym wyjściu danych przez jądro PCA (analiza głównych składników) i jakie są sposoby optymalizacji parametrów jądra? Warunki laika, jeśli to możliwe, byłyby bardzo mile widziane, a linki do artykułów wyjaśniających takie metody byłyby również miłe.

12 pca cross-validation dimensionality-reduction kernel-trick manifold-learning

2

Jak przeprowadzić walidację krzyżową dla PCA w celu ustalenia liczby głównych składników?

Próbuję napisać własną funkcję do analizy głównych składników, PCA (oczywiście jest już dużo napisanych, ale jestem zainteresowany tylko implementacją różnych rzeczy). Głównym problemem, jaki napotkałem, jest krok weryfikacji krzyżowej i obliczanie przewidywanej sumy kwadratów (PRASA). Nie ma znaczenia, z której walidacji krzyżowej korzystam, chodzi głównie o teorię, ale zastanów się …

12 pca cross-validation matlab

4

Wykonywanie PCA tylko z matrycą odległości

Chcę utworzyć klaster ogromnego zestawu danych, dla którego mam tylko pary odległości. Wdrożyłem algorytm k-medoidów, ale jego uruchomienie trwa zbyt długo, dlatego chciałbym zacząć od zmniejszenia wymiaru mojego problemu przez zastosowanie PCA. Jednak jedynym sposobem, w jaki znam tę metodę, jest zastosowanie macierzy kowariancji, której nie mam w swojej sytuacji. …

12 pca dimensionality-reduction multidimensional-scaling

2

Czy rozwiązania PCA są wyjątkowe?

Czy po uruchomieniu PCA na określonym zestawie danych rozwiązanie jest dla mnie wyjątkowe? To znaczy, otrzymuję zestaw współrzędnych 2d na podstawie odległości między punktami. Czy można znaleźć co najmniej jeszcze jeden układ punktów, który spełniałby te ograniczenia? Jeśli odpowiedź brzmi „tak”, jak mogę znaleźć tak różne rozwiązanie?

12 pca

4

Jak wykonać PCA dla danych o bardzo dużych wymiarach?

Aby przeprowadzić analizę głównego składnika (PCA), należy odjąć średnie z każdej kolumny od danych, obliczyć macierz współczynnika korelacji, a następnie znaleźć wektory własne i wartości własne. Cóż, raczej to zrobiłem, aby zaimplementować go w Pythonie, z wyjątkiem tego, że działa tylko z małymi macierzami, ponieważ metoda znajdowania macierzy współczynnika korelacji …

12 pca python

3

Czy jest jakaś wartość w zmniejszeniu wymiarowości zbioru danych, w którym wszystkie zmienne są w przybliżeniu ortogonalne?

Załóżmy, że mam zbiór danych wymiarowych, w którym wymiary są w przybliżeniu ortogonalne (mają zerową korelację).NN.N.NN.N.N Czy jest jakieś narzędzie pod względem: Wyobrażanie sobie Reprezentacja (dla wydajności klasyfikatora) Lub inne kryteria wykonać redukcję wymiarowości danych?

11 pca dimensionality-reduction

1

Jaka jest różnica między „ładunkami” a „ładunkami korelacyjnymi” w PCA i PLS?

Podczas wykonywania głównej analizy składowej (PCA) powszechną rzeczą do zrobienia jest wykreślenie dwóch obciążeń względem siebie w celu zbadania zależności między zmiennymi. W pracy dołączonej do pakietu PLS R do wykonywania regresji głównej składowej i regresji PLS istnieje inny wykres, zwany wykresem ładunków korelacyjnych (patrz rysunek 7 i strona 15 …

11 r pca terminology partial-least-squares biplot

Pytania otagowane jako pca