Statystyki i duże zbiory danych

2

Myślę, że następujące dwie formuły są prawdziwe: Var(aX)=a2Var(X)Var(aX)=a2Var(X) \mathrm{Var}(aX)=a^2 \mathrm{Var}(X) podczas gdy a jest liczbą stałą Var(X+Y)=Var(X)+Var(Y)Var(X+Y)=Var(X)+Var(Y) \mathrm{Var}(X + Y)=\mathrm{Var}(X)+\mathrm{Var}(Y) jeśliXXX ,YYY są niezależne Nie jestem jednak pewien, co jest nie tak z poniższymi: Var(2X)=Var(X+X)=Var(X)+Var(X)Var(2X)=Var(X+X)=Var(X)+Var(X)\mathrm{Var}(2X) = \mathrm{Var}(X+X) = \mathrm{Var}(X) + \mathrm{Var}(X) który nie jest równy22Var(X)22Var(X)2^2 \mathrm{Var}(X) , tj.4Var(X)4Var(X)4\mathrm{Var}(X) . Jeśli …

16 variance linearity fallacy

3

Analiza dyskryminacyjna a regresja logistyczna

Znalazłem zalety analizy dyskryminacyjnej i mam pytania na ich temat. Więc: Gdy klasy są dobrze rozdzielone, oszacowania parametrów regresji logistycznej są zaskakująco niestabilne. Współczynniki mogą sięgać nieskończoności. LDA nie cierpi z powodu tego problemu. Jeśli liczba cech jest niewielka, a rozkład predyktorów XXX jest w przybliżeniu normalny w każdej z …

16 regression logistic multivariate-analysis discriminant-analysis

2

Jaka jest różnica między oszacowaniem maksymalnego prawdopodobieństwa a spadkiem gradientu?

Jakie są zalety i wady obu metod?

16 maximum-likelihood predictive-models optimization gradient-descent

1

Pakiet R dla Weighted Random Forest? opcja classwt?

Próbuję użyć Losowego Lasu, aby przewidzieć wynik bardzo niezrównoważonego zestawu danych (wskaźnik klasy mniejszości wynosi około 1% lub nawet mniej). Ponieważ tradycyjny algorytm losowego lasu minimalizuje ogólny poziom błędu, zamiast zwracać szczególną uwagę na klasy mniejszości, nie ma bezpośredniego zastosowania do niezrównoważonych danych. Chcę więc przypisać wysoki koszt błędnej klasyfikacji …

16 r random-forest

1

Czy w statystycznej teorii uczenia się nie występuje problem przeregulowania zestawu testowego?

Rozważmy problem związany z klasyfikacją zestawu danych MNIST. Według strony MNIST Yanna LeCuna „Ciresan i in.” uzyskał poziom błędu 0,23% w zestawie testowym MNIST przy użyciu sieci neuronowej Convolutional. Oznaczmy zestaw treningowy MNIST jako , zestaw testowy MNIST jako , ostateczną hipotezę, którą uzyskali przy użyciu jako , oraz ich …

16 machine-learning classification overfitting probability-inequalities

3

Czym dokładnie jest dystrybucja?

Bardzo mało wiem na temat prawdopodobieństwa i statystyki i chcę się uczyć. Widzę słowo „dystrybucja” używane wszędzie w różnych kontekstach. Na przykład dyskretna zmienna losowa ma „rozkład prawdopodobieństwa”. Wiem co to jest. Ciągła zmienna losowa ma funkcję gęstości prawdopodobieństwa, a zatem dla x∈Rx∈Rx\in\mathbb{R} całka od −∞−∞-\infty do xxx funkcji gęstości …

16 distributions definition

2

Test post-hoc dla testu dopasowania chi-kwadrat

Przeprowadzam test dobroci dopasowania chi-kwadrat (GOF) z trzema kategoriami i szczególnie chcę przetestować zero, że proporcje populacji w każdej kategorii są równe (tj. Proporcja wynosi 1/3 w każdej grupie): OBSERWOWANE DANE Grupa 1 Grupa 2 Grupa 3 Ogółem 686928 1012 2626 Zatem dla tego testu GOF oczekiwane liczby wynoszą 2626 …

16 hypothesis-testing chi-squared goodness-of-fit post-hoc

3

Dlaczego wystarczająca statystyka zawiera wszystkie informacje potrzebne do obliczenia oszacowania parametru?

Właśnie zacząłem studiować statystyki i nie mogę intuicyjnie zrozumieć wystarczalności. Mówiąc ściślej, nie rozumiem, jak pokazać, że następujące dwa akapity są równoważne: Z grubsza, biorąc pod uwagę zestaw X niezależnych identycznie rozmieszczonych danych uwarunkowanych nieznanym parametrem θ, wystarczającą statystyką jest funkcja T (X), której wartość zawiera wszystkie informacje potrzebne do …

16 sufficient-statistics

1

Dlaczego „zrelaksowane lasso” różni się od standardowego lasso?

Jeśli zaczniemy od zestawu danych , zastosujemy do niego Lasso i uzyskamy rozwiązanie β L , możemy ponownie zastosować Lasso do zbioru danych ( X S , Y ) , gdzie S jest zbiorem niezerowym indeksy β L , aby uzyskać rozwiązanie β R L , zwane „zrelaksowanym rozwiązaniem LASSO” …

16 regression optimization lasso regularization shrinkage

2

Dlaczego GLM różni się od LM z transformowaną zmienną

Jak wyjaśniono w tym podręczniku kursu (strona 1) , model liniowy można zapisać w postaci: y=β1x1+⋯+βpxp+εi,y=β1x1+⋯+βpxp+εi, y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i, gdzie jest zmienną odpowiedzi, a jest zmienną objaśniającą .yyyxixix_{i}ithithi^{th} Często w celu spełnienia założeń testowych można przekształcić zmienną odpowiedzi. Na przykład, stosujemy funkcję …

16 regression generalized-linear-model data-transformation linear-model

1

Jaki jest typowy zakres możliwych wartości parametru skurczu w regresji karanej?

W regresji lasso lub kalenicy należy określić parametr skurczu, często nazywany przez lub . Ta wartość jest często wybierana poprzez krzyżową weryfikację, sprawdzając kilka różnych wartości danych treningowych i sprawdzając, która daje najlepszą wartość, np. na danych testowych. Jaki zakres wartości należy sprawdzić? Czy to ?λλ\lambdaαα\alphaR2)R2)R^2( 0 , 1 )(0,1)(0,1)

16 regression lasso regularization ridge-regression penalized

2

Oszacuj współczynniki ARMA na podstawie kontroli ACF i PACF

Jak oceniasz odpowiedni model prognozy dla szeregów czasowych poprzez wizualną kontrolę wykresów ACF i PACF? Który z nich (tj. ACF lub PACF) informuje AR lub IZ (czy też oba)? Która część wykresów pokazuje sezonową i niesezonową część sezonowego ARIMA? Rozważ funkcje ACF i PCF przedstawione poniżej. Są z dziennika przekształcone …

16 r time-series forecasting acf-pacf

1

Czy prawdopodobieństwo dziennika w GLM gwarantuje konwergencję do maksymalnych wartości globalnych?

Moje pytania to: Czy uogólnione modele liniowe (GLM) są gwarantowane, że osiągną globalne maksimum? Jeśli tak, to dlaczego? Co więcej, jakie są ograniczenia funkcji łączenia w celu zapewnienia wypukłości? Rozumiem GLM, że maksymalizują one wysoce nieliniową funkcję wiarygodności. Tak więc wyobrażam sobie, że istnieje kilka lokalnych maksimów, a zestaw parametrów, …

16 generalized-linear-model optimization convergence exponential-family

2

Obliczanie AIC „ręcznie” w R.

Próbowałem obliczyć AIC regresji liniowej w R, ale bez użycia AICfunkcji: lm_mtcars <- lm(mpg ~ drat, mtcars) nrow(mtcars)*(log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))+(length(lm_mtcars$coefficients)*2) [1] 97.98786 Jednak AICdaje inną wartość: AIC(lm_mtcars) [1] 190.7999 Czy ktoś mógłby mi powiedzieć, co robię źle?

16 r aic information-theory

2

Jakie są wymagania dotyczące stacjonarności stosowania regresji z błędami ARIMA do wnioskowania?

Jakie są wymagania dotyczące stacjonarności stosowania regresji z błędami ARIMA (regresja dynamiczna) do wnioskowania? W szczególności, mam niestacjonarne bezstopniowej wynik , A niestacjonarnym predyktor ciągły x i zmienny obojętne seria leczenia x b . Chciałbym wiedzieć, czy leczenie było skorelowane ze zmianą zmiennej wynikowej, która jest o więcej niż dwa …

16 regression time-series arima stationarity