Pytania otagowane jako regression

Widzę model regresji, który regresuje zwroty z indeksu giełdowego z opóźnieniem (12 miesięcy) Rentowność z tego samego indeksu giełdowego, marżę kredytową (różnica między średnią miesięczną wolną od ryzyka obligacją a obligacją korporacyjną) plony), wskaźnik inflacji r / r oraz wskaźnik produkcji przemysłowej r / r. Wygląda to w ten sposób …

13 regression  time-series  autocorrelation 

Szukam metod, które można wykorzystać do oszacowania modelu błędu pomiaru „OLS”. x i = X i + e x , i Y i = α + β X iyi=Yi+ey,iyi=Yi+ey,iy_{i}=Y_{i}+e_{y,i} xi=Xi+ex,ixi=Xi+ex,ix_{i}=X_{i}+e_{x,i} Yi=α+βXiYi=α+βXiY_{i}=\alpha + \beta X_{i} Gdzie błędy są niezależne normalne z nieznanymi wariancjami i . „Standardowy” OLS nie będzie w tym …

13 regression  estimation  errors-in-variables 

Chciałbym uzyskać współczynniki dla problemu LASSO | | Y- Xβ| | +λ | | β| |1.||Y−Xβ||+λ||β||1.||Y-X\beta||+\lambda ||\beta||_1. Problem polega na tym, że funkcje glmnet i lars dają różne odpowiedzi. Dla funkcji glmnet proszę o współczynniki λ / | | Y| |λ/||Y||\lambda/||Y||zamiast po prostu λλ\lambda , ale wciąż otrzymuję różne odpowiedzi. …

13 r  machine-learning  regression  lasso  regularization 

Jakie są zalety i wady korzystania z LARS [1] w porównaniu ze stosowaniem opadania współrzędnych w celu dopasowania regresji liniowej regulowanej przez L1? Interesują mnie głównie aspekty wydajności (moje problemy występują zwykle Nw setkach tysięcy i p<20). Jednak wszelkie inne spostrzeżenia byłyby również mile widziane. edytuj: Od kiedy opublikowałem pytanie, …

13 regression  lasso  regularization  regression  references  lasso  regularization  elastic-net  r  distributions  aggregation  clustering  algorithms  regression  correlation  modeling  distributions  time-series  standard-deviation  goodness-of-fit  hypothesis-testing  statistical-significance  sample  binary-data  estimation  random-variable  interpolation  distributions  probability  chi-squared  predictor  outliers  regression  modeling  interaction 

Mam regresję wielowymiarową, która obejmuje interakcje. Na przykład, aby uzyskać oszacowanie efektu leczenia dla najbiedniejszego kwintylu, muszę dodać współczynniki z regresora leczenia do współczynnika ze zmiennej interakcji (która oddziałuje na leczenie i kwintyl 1). Jak dodając dwa współczynniki z regresji, jak uzyskać standardowe błędy? Czy można dodać standardowe błędy na …

13 regression  standard-deviation  standard-error 

Chcę zbudować model regresji, który jest średnią z wielu modeli OLS, każdy oparty na podzbiorze pełnych danych. Idea tego opiera się na tym dokumencie . Tworzę k fałd i buduję k modeli OLS, każdy na danych bez jednego z fałd. Następnie uśredniam współczynniki regresji, aby uzyskać ostateczny model. Uderza mnie …

13 regression  least-squares  ensemble 

Jaka jest różnica między regresem najmniejszych kwadratów a regresją liniową? Czy to to samo?

13 regression  least-squares  terminology 

W „W większości nieszkodliwych ekonometriach: towarzysz empirysty” (Angrist i Pischke, 2009: strona 209) czytam: (...) W rzeczywistości właśnie zidentyfikowana 2SLS (powiedzmy, prosty estymator Wald) jest w przybliżeniu bezstronna . Jest to trudne do formalnego wykazania, ponieważ właśnie zidentyfikowana 2SLS nie ma momentów (tj. Rozkład próbkowania ma ogony tłuszczu). Niemniej jednak, …

13 regression  self-study  multiple-regression  econometrics  instrumental-variables 

W przeszłości stosowano regresję krokową w wielu pracach biomedycznych, ale wydaje się, że poprawia się to wraz z lepszą edukacją wielu zagadnień. Jednak wielu starszych recenzentów wciąż o to prosi. Jakie są okoliczności, w których regresja krokowa odgrywa rolę i powinna być stosowana, jeśli w ogóle?

13 regression  multiple-regression  feature-selection  model-selection  stepwise-regression 

Chcę obliczyć AICc modelu regresji grzbietu. Problemem jest liczba parametrów. W przypadku regresji liniowej większość osób sugeruje, że liczba parametrów jest równa liczbie szacowanych współczynników plus sigma (wariancja błędu). Jeśli chodzi o regresję grzbietu, czytam, że ślad macierzy kapelusza - stopień swobody (df) - jest po prostu używany jako liczba …

13 regression  aic  ridge-regression  degrees-of-freedom 

Tło: Staram się śledzić ocenę Princeton dotyczącą oszacowania MLE dla GLM . I zrozumieć podstawy szacowania MLE: likelihood, score, obserwowane i oczekiwane Fisher informationi Fisher scoringtechnika. I wiem, jak uzasadnić prostą regresję liniową estymacją MLE . Pytanie: Nie rozumiem nawet pierwszego wiersza tej metody :( Jaka intuicja kryje się za …

13 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

Stroiłem model przy użyciu caret, ale potem ponownie uruchomiłem model przy użyciu gbmpakietu. Rozumiem, że caretpakiet używa gbmi wynik powinien być taki sam. Jednak tylko szybki test przy użyciu data(iris)wykazuje rozbieżność w modelu około 5% przy użyciu RMSE i R ^ 2 jako metryki oceny. Chcę znaleźć optymalną wydajność modelu …

13 r  caret  gbm  matrix  linear-algebra  logistic  modeling  logit  ordered-logit  r  confidence-interval  survival  population  weibull  classification  separation  hypothesis-testing  correlation  statistical-significance  p-value  python  r  data-visualization  r  regression  multiple-regression  chi-squared  multivariate-analysis  distributions  random-variable  experiment-design  distributions  poisson-regression  residuals  excel  time-series  garch  var  survival  modeling  cox-model  interaction  r  pca  normality-assumption 

Rozważ model regresji liniowej y=Xβ+uy=Xβ+u\mathbf{y}=\mathbf{X\beta}+\mathbf{u} , u∼N(0,σ2I)u∼N.(0,σ2)ja)\mathbf{u}\sim N(\mathbf{0},\sigma^2\mathbf{I}) , E(u∣X)=0mi(u∣X)=0E(\mathbf{u}\mid\mathbf{X})=\mathbf{0} . Niech vs .H0:σ20=σ2H.0:σ02)=σ2)H_0: \sigma_0^2=\sigma^2H1:σ20≠σ2H.1:σ02)≠σ2)H_1: \sigma_0^2\neq\sigma^2 Możemy wywnioskować, że , gdzie . A to typowy zapis dla matrycy anihilatora, , gdzie jest zmienną zależną zrestartował się w .yTMXyσ2∼χ2(n−k)yT.M.Xyσ2)∼χ2)(n-k)\frac{\mathbf{y}^T\mathbf{M_X}\mathbf{y}}{\sigma^2}\sim \chi^2(n-k)dim(X)=n×krejam(X)=n×kdim(\mathbf{X})=n\times kMXMX\mathbf{M_X}MXy=y^MXy=y^\mathbf{M_X}\mathbf{y}=\hat{\mathbf{y}}y^y^ \hat{\mathbf{y}}yy\mathbf{y}XX\mathbf{X} Książka, którą czytam, stwierdza, co następuje: Wcześniej zapytałem, jakie …

13 regression  hypothesis-testing  mathematical-statistics  inference 

Przeczytałem, że grupa lasso służy do wyboru zmiennych i rzadkości w grupie zmiennych. Chcę poznać intuicję tego twierdzenia. Dlaczego lasso grupowe jest lepsze od lasso? Dlaczego ścieżka rozwiązania lasso grupowe nie jest fragmentarycznie liniowa?

13 regression  feature-selection  lasso  regularization 

Poszukałem google i przeszukałem stats.stackexchange, ale nie mogę znaleźć wzoru na obliczenie 95% przedziału ufności dla wartości dla regresji liniowej. Czy ktoś może to zapewnić?R2R2)R^2 Jeszcze lepiej, powiedzmy, że uruchomiłem regresję liniową poniżej w R. Jak obliczyć 95% przedział ufności dla wartości za pomocą kodu R.R2R2)R^2 lm_mtcars <- lm(mpg ~ …

13 r  regression  confidence-interval  inference  r-squared