Pytania otagowane jako regression

Mój zestaw danych (N.≈ 10 , 000N.≈10,000N \approx 10,000) ma zmienną zależną (DV), pięć niezależnych zmiennych „podstawowych” (P1, P2, P3, P4, P5) i jedną niezależną zmienną będącą przedmiotem zainteresowania (Q). Uruchomiłem regresje liniowe OLS dla następujących dwóch modeli: DV ~ 1 + P1 + P2 + P3 + P4 + …

10 regression  linear  r-squared 

Wyobraź sobie, że mamy model regresji liniowej ze zmienną zależną yyy. Znajdziemy toR2)yRy2R^2_y. Teraz wykonujemy kolejną regresję, ale tym razemlog( y)log⁡(y)\log(y)i podobnie znajdź R2)log( y)Rlog⁡(y)2R^2_{\log(y)}. Powiedziano mi, że nie mogę porównać obuR2)R2R^2aby zobaczyć, który model jest bardziej odpowiedni. Dlaczego? Podany mi powód był taki, że będziemy porównywać zmienność różnych wielkości …

10 regression  data-transformation  r-squared 

y=β0+β1x1+ε0y=β0+β1x1+ε0y = \beta_{0} + \beta_{1}x_{1} + \varepsilon_{0} Język opisujący modele regresji, taki jak bardzo prosta regresja liniowa opisana powyżej, często się różni i takie zmiany często niosą subtelne zmiany znaczeń. Na przykład część modelu po lewej stronie równania można nazwać (między innymi jestem tego nieświadomy), używając konotacji i denotacji w …

10 regression  terminology 

Wiem, że prawdopodobnie zostało to omówione gdzie indziej, ale nie udało mi się znaleźć jednoznacznej odpowiedzi. Próbuję użyć wzoru aby obliczyć poza próbą modelu regresji liniowej, gdzie jest sumą kwadratów reszt, a jest sumą kwadratów. W przypadku zestawu treningowego jasne jest, żeR2=1−SSR/SSTR2=1−SSR/SSTR^2 = 1 - SSR/SSTR2R2R^2SSRSSRSSRSSTSSTSST SST=Σ(y−y¯train)2SST=Σ(y−y¯train)2 SST = \Sigma …

10 regression  machine-learning  r-squared  out-of-sample 

Czy „resztki studenckie” i „resztki standaryzowane” są takie same w modelach regresji? Zbudowałem model regresji liniowej w R i chciałem wykreślić wykres dopasowanych wartości reszt studenckich v / s, ale nie znalazłem zautomatyzowanego sposobu na zrobienie tego w R. Załóżmy, że mam model library(MASS) lm.fit <- lm(Boston$medv~(Boston$lstat)) następnie użycie plot(lm.fit)nie …

10 r  regression  residuals  terminology 

Jak wykonać nieujemną regresję kalenicy? Lasso nieujemne jest dostępne w scikit-learn, ale dla grzbietu nie mogę wymusić nieujemności bety i rzeczywiście otrzymuję współczynniki ujemne. Czy ktoś wie, dlaczego tak jest? Czy mogę również zastosować grzbiet w kategoriach zwykłych najmniejszych kwadratów? Przeniesiono to do innego pytania: Czy mogę wdrożyć regresję kalenicy …

10 regression  lasso  regularization  ridge-regression 

Rozumiem, że możemy zastosować regularyzację w przypadku problemu regresji metodą najmniejszych kwadratów jako w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] i że ten problem ma rozwiązanie zamknięte, ponieważ: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. Widzimy, że w drugim równaniu regularyzacja po prostu dodaje λλ\lambda do przekątnej XTXXTX\boldsymbol{X}^T\boldsymbol{X} , co ma na …

10 regression  regularization  ridge-regression  overfitting  matrix-inverse 

Co sądzisz o używaniu regresji do wyświetlania poza zakresem danych? Jeśli jesteśmy pewni, że podąża za kształtem liniowym lub potęgowym, czy model nie byłby przydatny poza zakresem danych? Na przykład mam wolumen napędzany przez cenę. Uważamy, że powinniśmy być w stanie prognozować ceny poza zakresem danych. Twoje myśli? VOL PRICE …

10 regression  dataset  linear-model 

Złożyłem artykuł, który został odrzucony z powodu niewłaściwego sposobu przeprowadzenia analizy przeżycia. Sędzia nie pozostawił żadnych innych szczegółów ani wyjaśnień poza: „analiza przetrwania trendów czasowych wymaga bardziej wyrafinowanych sposobów cenzury”. Pytanie: Czy w ostatnich dziesięcioleciach zmniejszono nadmierne ryzyko śmierci wśród palaczy? Dane: 25.000 palaczy w Niemczech. Zostali oni zapisani do …

10 regression  survival  incidence-rate-ratio  interval-censoring 

Funkcja R cv.glm (biblioteka: boot) oblicza szacowany błąd prognozy krotności K-krotności dla uogólnionych modeli liniowych i zwraca deltę. Czy warto używać tej funkcji do regresji lasso (biblioteka: glmnet), a jeśli tak, to w jaki sposób można ją przeprowadzić? Biblioteka glmnet używa weryfikacji krzyżowej, aby uzyskać najlepszy parametr zwrotny, ale nie …

10 r  regression  cross-validation  lasso  glmnet 

Bardzo podstawowe pytanie dotyczące regresji OLSR2R2R^2 uruchomić regresję OLS y ~ x1, mamy , powiedzmy 0.3R2R2R^2 uruchomić regresję OLS y ~ x2, mamy kolejne , powiedzmy 0,4R2R2R^2 teraz przeprowadzamy regresję y ~ x1 + x2, jaką wartością może być R dla tej regresji? Myślę, że jasne jest, że dla regresji …

10 regression  multiple-regression  least-squares  r-squared 

Jestem zdezorientowany, jak ocenić tylny rozkład predykcyjny dla regresji liniowej Bayesa, pomijając podstawowy przypadek opisany tutaj na stronie 3, i skopiowałem poniżej. p(y~∣y)=∫p(y~∣β,σ2)p(β,σ2∣y)p(y~∣y)=∫p(y~∣β,σ2)p(β,σ2∣y) p(\tilde y \mid y) = \int p(\tilde y \mid \beta, \sigma^2) p(\beta, \sigma^2 \mid y) Podstawowym przypadkiem jest ten model regresji liniowej: y=Xβ+ϵ,y∼N(Xβ,σ2)y=Xβ+ϵ,y∼N(Xβ,σ2) y = X \beta …

10 regression  bayesian  predictive-models  prediction  posterior 

W regresji liniowej doszedłem do cudownego wyniku, jeśli dopasujemy model E[Y]=β1X1+β2X2+c,E[Y]=β1X1+β2X2+c,E[Y] = \beta_1 X_1 + \beta_2 X_2 + c, to jeśli znormalizujemy i wyśrodkujemy dane , i ,YYYX1X1X_1X2X2X_2 R2=Cor(Y,X1)β1+Cor(Y,X2)β2.R2=Cor(Y,X1)β1+Cor(Y,X2)β2.R^2 = \mathrm{Cor}(Y,X_1) \beta_1 + \mathrm{Cor}(Y, X_2) \beta_2. Wydaje mi się, że jest to zmienna wersja dla regresji , co jest przyjemne.R2=Cor(Y,X)2R2=Cor(Y,X)2R^2 …

10 regression  linear-model  r-squared  proof 

Jakie znaczenie ma macierz kapelusza, w analizie regresji?H=X(X′X)−1X′H.=X(X′X)-1X′H=X(X^{\prime}X )^{-1}X^{\prime} Czy to tylko dla łatwiejszych obliczeń?

10 regression  multiple-regression  least-squares 

Mam próbkę 1449 punktów danych, które nie są skorelowane (r-kwadrat 0,006). Analizując dane, odkryłem, że dzieląc wartości zmiennych niezależnych na grupy dodatnie i ujemne, wydaje się, że istnieje znacząca różnica w średniej zmiennej zależnej dla każdej grupy. Dzieląc punkty na 10 przedziałów (decyli) przy użyciu niezależnych wartości zmiennych, wydaje się, …

10 regression  correlation  linear-model  r-squared