Statystyki i duże zbiory danych

2

Warunkowa średnia niezależność oznacza bezstronność i spójność estymatora OLS

Rozważ następujący model regresji wielokrotnej:Y=Xβ+Zδ+U.(1)(1)Y=Xβ+Zδ+U.Y=X\beta+Z\delta+U.\tag{1} Tutaj jest wektorem kolumny; Macierz a ; a wektor kolumny; a macierz; a wektor kolumnowy; i U , termin błędu, wektor kolumny n \ times1 .YYYn×1n×1n\times 1XXXn×(k+1)n×(k+1)n\times (k+1)ββ\beta(k+1)×1(k+1)×1(k+1)\times 1ZZZn×ln×ln\times lδδ\deltal×1l×1l\times 1UUUn×1n×1n\times1 PYTANIE Mój wykładowca, podręcznik Wprowadzenie do ekonometrii, wydanie 3. autorzy James H. Stock i …

10 regression multiple-regression econometrics least-squares nonlinear-regression

1

Jak przeprowadzić walidację krzyżową z cv.glmnet (regresja LASSO w R)?

Zastanawiam się, jak właściwie podejść do szkolenia i testowania modelu LASSO przy użyciu glmnet w R? W szczególności zastanawiam się, jak to zrobić, jeśli brak zewnętrznego zestawu danych testowych wymaga użycia weryfikacji krzyżowej (lub innego podobnego podejścia) do przetestowania mojego modelu LASSO. Pozwól mi rozbić mój scenariusz: Mam tylko jeden …

10 r cross-validation glmnet lasso

2

Co to jest próbka zmiennej losowej?

Zmienna losowa jest definiowana jako funkcja mierzalna z jednej -algebra z bazową miarą do innej -algebra .σ ( Ω 1 , F 1 ) P σ ( Ω 2 , F 2 )XXXσσ\sigma( Ω1, F.1)(Ω1,F1)(\Omega_1, \mathcal F_1)P.PPσσ\sigma( Ω2), F.2))(Ω2,F2)(\Omega_2, \mathcal F_2) Jak mówimy o próbce tej losowej zmiennej? Czy traktujemy …

10 sampling random-variable simulation

1

Oblicz ręcznie przewidywania efektów losowych dla liniowego modelu mieszanego

Staram się ręcznie wyliczyć przewidywania efektu losowego z liniowego modelu mieszanego i używając notacji dostarczonej przez Wooda w uogólnionych modelach addytywnych: wprowadzenie do R (str. 294 / str. 307 z pdf), mylę się co do każdego parametru reprezentuje. Poniżej znajduje się podsumowanie z Wood. Zdefiniuj liniowy model mieszany Y= Xβ+ …

10 mixed-model lme4-nlme

4

Jak wytłumaczyć laikowi, czym jest bezstronny rzeczoznawca?

Załóżmy, że jest obiektywnym estymatorem . Następnie oczywiście . θE[ θ |θ]=θθ^θ^\hat{\theta}θθ\thetaE[θ^∣θ]=θE[θ^∣θ]=θ\mathbb{E}[\hat{\theta} \mid \theta] = \theta Jak wyjaśnić to laikowi? W przeszłości mówiłem, że jeśli uśredniacie wiązkę wartości , ponieważ wraz z powiększaniem się próbki, otrzymacie lepsze przybliżenie . θθ^θ^\hat{\theta}θθ\theta Dla mnie jest to problematyczne. Myślę, że tak naprawdę opisuję …

10 bias asymptotics unbiased-estimator estimators communication

1

Replikowanie wyników regresji liniowej glmnet przy użyciu ogólnego optymalizatora

Jak mówi tytuł, próbuję powielić wyniki z glmnet linear przy użyciu optymalizatora LBFGS z biblioteki lbfgs. Ten optymalizator pozwala nam dodać termin regulatora L1 bez martwienia się o różnicę, o ile nasza funkcja celu (bez terminu regulatora L1) jest wypukła. Problem regresji liniowej siatki elastycznej w papierze glmnet podaje minβ∈ …

10 r regression regularization glmnet elastic-net

1

Czy wdrożono sampler Monte Carlo / MCMC, który radzi sobie z izolowanymi lokalnymi maksimami dystrybucji tylnej?

Obecnie używam bayesowskiego podejścia do oszacowania parametrów modelu składającego się z kilku ODE. Ponieważ mam 15 parametrów do oszacowania, moja przestrzeń próbkowania jest 15-wymiarowa, a moje poszukiwane rozmieszczenie z tyłu wydaje się mieć wiele lokalnych maksimów, które są bardzo odizolowane przez duże obszary o bardzo niskim prawdopodobieństwie. Prowadzi to do …

10 bayesian mcmc monte-carlo ergodic

5

Najbardziej interpretowalne modele klasyfikacji

Z wyjątkiem drzew decyzyjnych i regresji logistycznej, jakie inne modele klasyfikacji zapewniają dobrą interpretację? Nie interesuje mnie dokładność ani inne parametry, ważna jest tylko interpretacja wyników.

10 interpretation supervised-learning

1

Związek między szybkością uczenia się a liczbą ukrytych warstw?

Czy istnieje jakaś reguła praktyczna między głębokością sieci neuronowej a szybkością uczenia się? Zauważyłem, że im głębsza sieć, tym niższa musi być szybkość uczenia się. Jeśli to prawda, dlaczego tak jest?

10 neural-networks deep-learning hyperparameter rule-of-thumb

4

różnica między siecią neuronową a głębokim uczeniem się

Jeśli chodzi o różnicę między siecią neuronową a głębokim uczeniem się, możemy wymienić kilka elementów, takich jak więcej warstw, ogromny zestaw danych, potężny sprzęt komputerowy, aby uczynić szkolenie skomplikowanym modelem. Poza tym, czy są jakieś bardziej szczegółowe wyjaśnienia dotyczące różnicy między NN i DL?

10 machine-learning neural-networks deep-learning conv-neural-network deep-belief-networks

2

Czy modele graficzne i maszyny Boltzmanna są powiązane matematycznie?

Podczas gdy faktycznie programowałem na maszynach Boltzmanna na zajęciach z fizyki, nie znam ich teoretycznej charakterystyki. W przeciwieństwie do tego znam skromną wiedzę na temat teorii modeli graficznych (o kilku pierwszych rozdziałach książki Lauritzen Modele graficzne ). Pytanie: Czy istnieje jakiś znaczący związek między modelami graficznymi a maszyną Boltzmanna? Czy …

10 machine-learning neural-networks mathematical-statistics graphical-model rbm

2

Żądanie referencyjne: Statystyka klasyczna dla pracujących naukowców zajmujących się danymi

Jestem pracującym naukowcem danych z dużym doświadczeniem w regresji, innych algorytmach uczenia maszynowego i programowaniu (zarówno w zakresie analizy danych, jak i ogólnego opracowywania oprogramowania). Większość mojego życia zawodowego koncentruje się na budowaniu modeli w celu zapewnienia dokładności predykcyjnej (praca przy różnych ograniczeniach biznesowych) oraz budowaniu potoków danych w celu …

10 hypothesis-testing references frequentist inference

3

Kiedy użyjesz PCA zamiast LDA w klasyfikacji?

Czytam ten artykuł na temat różnicy między zasadową analizą składową a analizą wielokrotnych dyskryminacji (liniowa analiza dyskryminacyjna) i próbuję zrozumieć, dlaczego kiedykolwiek używałbyś PCA zamiast MDA / LDA. Wyjaśnienie podsumowano w następujący sposób: z grubsza mówiąc w PCA staramy się znaleźć osie o maksymalnych wariancjach, w których dane są najbardziej …

10 classification pca dimensionality-reduction discriminant-analysis

2

Porównaj istotność statystyczną różnicy między dwiema regresjami wielomianowymi w R.

Najpierw więc przeprowadziłem badania na tym forum i wiem, że zadawano bardzo podobne pytania, ale zwykle nie udzielono na nie prawidłowej odpowiedzi lub czasami odpowiedzi nie są wystarczająco szczegółowe, aby je zrozumieć. Więc tym razem moje pytanie brzmi: mam dwa zestawy danych, na każdym wykonuję regresję wielomianową tak: Ratio<-(mydata2[,c(2)]) Time_in_days<-(mydata2[,c(1)]) …

10 r regression statistical-significance regression-coefficients group-differences

1

Wycięcia na wykresie ramkowym vs. interwał Tukeya-Kramera

W „wycięcie” dokument pomocy ( lub tekst oryginalny ) z wykresu pudełkowego w „R” daje następujące elementy: Jeżeli wycięcia dwóch wykresów nie pokrywają się, jest to „mocny dowód”, że dwie mediany różnią się (Chambers i in., 1983, s. 62). Zastosowane obliczenia znajdują się w boxplot.stats. a „ boxplot.stats ” podaje: …

10 data-visualization median boxplot tukey-hsd