Statystyki i duże zbiory danych

Pytania i odpowiedzi dla osób zainteresowanych statystyką, uczeniem maszynowym, analizą danych, eksploracją danych i wizualizacją danych

1
Czy istnieje algorytm łączący klasyfikację i regresję?
Zastanawiam się, czy istnieje jakiś algorytm, który mógłby dokonać klasyfikacji i regresji w tym samym czasie. Na przykład chciałbym, aby algorytm nauczył się klasyfikatora, a jednocześnie w ramach każdej etykiety uczy się również ciągłego celu. Zatem dla każdego przykładu szkolenia ma kategoryczną etykietę i ciągłą wartość. Mógłbym najpierw wyszkolić klasyfikatora, …


8
Dlaczego tak ważne jest posiadanie zasadniczych i matematycznych teorii uczenia maszynowego?
Zastanawiam się, dlaczego tak ważne jest posiadanie zasadniczego / teoretycznego uczenia maszynowego? Z osobistego punktu widzenia, jako człowiek, rozumiem, dlaczego uczenie maszynowe oparte na zasadach jest tak ważne: ludzie lubią rozumieć, co robią, my rozumiemy piękno i satysfakcję. z teoretycznego punktu widzenia matematyka jest zabawna kiedy istnieją zasady, które kierują …

1
Kiedy teoretycznie brzmią modele mieszane z zerową korelacją?
Cytat blokowy poniżej, od liderów w dziedzinie modelowania efektów mieszanych, twierdzi, że koordynacja przesunięć w modelach z zerową korelacją między efektami losowymi (modele „ZCP”) zmienia prognozy modeli. Ale czy ktoś może rozwinąć lub uzasadnić swoje roszczenia? Sprawozdania te zostały wydane z Bates wsp za 2015 na papierze lme4, Montaż liniowe …


2
Odchylenie estymatora momentu rozkładu logarytmicznego
Robię eksperyment liczbowy, który polega na próbkowaniu logarytmicznego rozkładu i próbuję oszacować momenty dwiema metodami:X∼LN(μ,σ)X∼LN(μ,σ)X\sim\mathcal{LN}(\mu, \sigma)E[Xn]E[Xn]\mathbb{E}[X^n] Patrząc na średnią próbnąXnXnX^n Oszacowanie i przy użyciu przykładowych środków dla , a następnie wykorzystując fakt, że dla rozkładu logarytmicznego mamy .μμ\muσ2σ2\sigma^2log(X),log2(X)log⁡(X),log2⁡(X)\log(X), \log^2(X)E[Xn]=exp(nμ+(nσ)2/2)E[Xn]=exp⁡(nμ+(nσ)2/2)\mathbb{E}[X^n]=\exp(n \mu + (n \sigma)^2/2) Pytanie brzmi : Odkryłem eksperymentalnie, że druga …

1
Najnowocześniejsze uczenie się przez streaming
Ostatnio pracuję z dużymi zestawami danych i znalazłem wiele artykułów na temat metod przesyłania strumieniowego. By wymienić tylko kilka: Follow-the-Regularized-Leader and Mirror Descent: The Equivalence Theorems and L1 Regularization ( http://jmlr.org/proceedings/papers/v15/mcmahan11b/mcmahan11b.pdf ) Streaming Learning: One-Pass SVMs ( http://www.umiacs.umd.edu/~hal/docs/daume09onepass.pdf ) Pegasos: Primal Estimated sub-GrAdient SOlver for SVM http://ttic.uchicago.edu/~nati/Publications/PegasosMPB.pdf lub tutaj: czy …

0
Jaynesa
W książce Jaynesa „Prawdopodobieństwo: logika nauki” Jaynes ma rozdział (rozdz. 18) zatytułowany „Rozkład i reguła sukcesji”, w którym wprowadza ideę rozkładów , którą ten fragment pomaga zilustrować:A pZApZApA_pZApZApA_p [...] Aby to zobaczyć, wyobraź sobie efekt uzyskiwania nowych informacji. Załóżmy, że rzuciliśmy monetą pięć razy i za każdym razem wyskakuje. Pytasz …

2
Diagnostyka uogólnionych modeli liniowych (mieszanych) (w szczególności reszt)
Obecnie mam trudności ze znalezieniem odpowiedniego modelu dla danych trudnych do zliczenia (zmienna zależna). Próbowałem różnych modeli (modele efektów mieszanych są niezbędne dla mojego rodzaju danych), takich jak lmeri lme4(z transformacją logarytmiczną), a także uogólnionych liniowych modeli efektów mieszanych z różnymi rodzinami, takimi jak dwumian Gaussa lub ujemny. Nie jestem …

1
Czy doniesienia o śmierci testu t zostały znacznie przesadzone?
Czytając CV wszechczasów, znalazłem stwierdzenie, które chciałbym wyjaśnić. To jest post, a moje pytanie odnosi się do uwag końcowych: „Muszę zauważyć, że cała wiedza, którą właśnie przekazałem, jest nieco przestarzała; teraz, gdy mamy komputery, możemy zrobić coś więcej niż testy t. Jak zauważa Frank, ty prawdopodobnie zechcesz użyć testów Wilcoxona …


5
Szacowanie maksymalnego prawdopodobieństwa - dlaczego jest używane, mimo że w wielu przypadkach jest stronnicze
Szacowanie maksymalnego prawdopodobieństwa często skutkuje tendencyjnymi estymatorami (np. Jego oszacowanie dla wariancji próby jest tendencyjne dla rozkładu Gaussa). Co zatem sprawia, że ​​jest tak popularny? Dlaczego dokładnie jest tak często używany? Co w szczególności czyni go lepszym niż alternatywne podejście - metoda chwil? Zauważyłem również, że dla Gaussa proste skalowanie …

4
Wizualizacja wielu zmiennych na jednym wykresie
Chciałbym pokazać, w jaki sposób wartości niektórych zmiennych (~ 15) zmieniają się w czasie, ale chciałbym również pokazać, w jaki sposób zmienne różnią się między sobą każdego roku. Więc stworzyłem ten wątek: Ale nawet przy zmianie schematu kolorów lub dodawaniu różnych typów linii / kształtów wygląda to niechlujnie. Czy istnieje …


3
Jaki jest związek między ortogonalnym, korelacją i niezależnością?
Czytałem artykuł mówiący, że przy użyciu planowanych kontrastów w celu znalezienia środków, które różnią się pod jednym względem ANOVA, kontrasty powinny być ortogonalne, aby były nieskorelowane i zapobiegały zawyżeniu błędu typu I. Nie rozumiem, dlaczego ortogonalny miałby oznaczać nieskorelowany w żadnych okolicznościach. Nie mogę znaleźć wizualnego / intuicyjnego wyjaśnienia tego, …

Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.