Statystyki i duże zbiory danych least-squares

3

Mam uczyć twierdzenia Frisha Waugha w ekonometrii, której nie studiowałem. Zrozumiałem matematykę, która się za tym kryje, i mam nadzieję, że pomysł „współczynnik, który otrzymujesz dla określonego współczynnika z wielokrotnego modelu liniowego, jest równy współczynnikowi prostego modelu regresji, jeśli„ wyeliminujesz ”wpływ innych regresorów”. Więc teoretyczny pomysł jest całkiem fajny. (Jeśli …

15 regression econometrics least-squares projection decomposition

2

Funkcje wpływu i OLS

Próbuję zrozumieć, jak działają funkcje wpływu. Czy ktoś mógłby wyjaśnić w kontekście prostej regresji OLS yi=α+β⋅xi+εiyi=α+β⋅xi+εi\begin{equation} y_i = \alpha + \beta \cdot x_i + \varepsilon_i \end{equation} gdzie chcę funkcję wpływu dla .ββ\beta

15 regression least-squares

4

Dlaczego

Uwaga: = suma kwadratów ogółem, = suma kwadratów błędów, a = regresja suma kwadratów. Równanie w tytule jest często zapisywane jako:SSTSSTSSTSSESSESSESSRSSRSSR ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2 Dość proste pytanie, ale szukam intuicyjnego wyjaśnienia. Intuicyjnie wydaje mi się, że miałoby większy sens. Załóżmy na przykład, że punkt ma …

14 regression least-squares r-squared

3

Założenia do uzyskania estymatora OLS

Czy ktoś może mi krótko wyjaśnić, dlaczego każde z sześciu założeń jest potrzebne do obliczenia estymatora OLS? Odkryłem tylko o wielokoliniowości - że jeśli istnieje, nie możemy odwrócić macierzy (X'X), a tym samym oszacować ogólny estymator. A co z innymi (np. Liniowość, błędy o wartości zero, itp.)?

14 least-squares assumptions

1

R-kwadrat w odchyleniu wersetów w modelu liniowym w uogólnionym modelu liniowym?

Oto mój kontekst dla tego pytania: Z tego co mogę powiedzieć, nie możemy uruchomić zwykłej regresji metodą najmniejszych kwadratów w R, gdy używamy danych ważonych i surveypakietu. Tutaj musimy użyć svyglm(), który zamiast tego uruchamia uogólniony model liniowy (który może być tym samym? Jestem tutaj rozmyty pod względem tego, co …

14 r generalized-linear-model least-squares r-squared deviance

5

Odchylenie od liczb naturalnych w przypadku najmniejszych kwadratów

Dlaczego staramy się minimalizować x^2zamiast minimalizować |x|^1.95lub |x|^2.05. Czy istnieją powody, dla których liczba powinna wynosić dokładnie dwa, czy jest to po prostu konwencja, która ma tę zaletę, że upraszcza matematykę?

14 standard-deviation least-squares

1

W jaki sposób NumPy rozwiązuje najmniejsze kwadraty w przypadku niedokreślonych systemów?

Powiedzmy, że mamy X kształtu (2, 5) iy kształtu (2,) To działa: np.linalg.lstsq(X, y) Spodziewalibyśmy się, że zadziała to tylko wtedy, gdy X będzie miał kształt (N, 5), gdzie N> = 5 Ale dlaczego i jak? Odzyskujemy 5 wag zgodnie z oczekiwaniami, ale jak rozwiązać ten problem? Czy to nie …

14 least-squares linear-algebra numpy

3

Prosta regresja liniowa, wartości p i AIC

Zdaję sobie sprawę, że ten temat pojawiał się wiele razy wcześniej, np. Tutaj , ale wciąż nie jestem pewien, jak najlepiej zinterpretować moje wyniki regresji. Mam bardzo prosty zestaw danych, składający się z kolumny wartości x i kolumny wartości y , podzielonych na dwie grupy według lokalizacji (loc). Punkty wyglądają …

14 regression p-value least-squares aic

4

Jaka jest / jest „mechaniczna” różnica między wielokrotną regresją liniową z opóźnieniami i szeregami czasowymi?

Jestem absolwentem biznesu i ekonomii, który obecnie studiuje magister inżynierii danych. Podczas badania regresji liniowej (LR), a następnie analizy szeregów czasowych (TS), przyszło mi do głowy pytanie. Po co tworzyć zupełnie nową metodę, tj. Szeregi czasowe (ARIMA), zamiast stosować wielokrotną regresję liniową i dodawać do niej zmienne opóźnione (z kolejnością …

14 regression time-series multiple-regression least-squares arima

3

Wykonaj regresję liniową, ale wymusz rozwiązanie, aby przejść przez określone punkty danych

Wiem, jak wykonać regresję liniową na zbiorze punktów. To znaczy, wiem, jak dopasować wybrany wielomian do danego zestawu danych (w sensie LSE). Jednak nie wiem, jak zmusić moje rozwiązanie do przejścia przez niektóre wybrane punkty. Widziałem to już wcześniej, ale nie pamiętam, jak nazywała się ta procedura, nie mówiąc już …

14 regression machine-learning least-squares linear-model polynomial

6

Regresja liniowa, gdy Y jest ograniczone i dyskretne

Pytanie jest proste: czy właściwe jest stosowanie regresji liniowej, gdy Y jest ograniczone i dyskretne (np. Wynik testu 1 ~ 100, niektóre predefiniowane rangi 1 ~ 17)? Czy w takim przypadku „regresja liniowa nie jest dobra”, czy też jest całkowicie niewłaściwa?

14 regression multiple-regression least-squares linear bounds

3

Dlaczego istnieją duże współczynniki dla wielomianu wyższego rzędu

W książce Bishopa o uczeniu maszynowym omawia problem dopasowania krzywej funkcji wielomianu do zestawu punktów danych. Niech M będzie rzędem dopasowanego wielomianu. Tak to stwierdza Widzimy, że wraz ze wzrostem M wielkość współczynników zwykle rośnie. W szczególności dla wielomianu M = 9 współczynniki zostały precyzyjnie dostrojone do danych poprzez opracowanie …

13 regression least-squares curve-fitting polynomial

3

Regresja liniowa: jakikolwiek nienormalny rozkład dający tożsamość OLS i MLE?

To pytanie jest inspirowane długą dyskusją w komentarzach tutaj: W jaki sposób regresja liniowa wykorzystuje rozkład normalny? W zwykłym modelu regresji liniowej, dla uproszczenia, zapisanym tutaj tylko z jednym predyktorem: gdzie są znanymi stałymi, a są zerowymi średnimi niezależnymi błędami. Jeśli dodatkowo przyjmiemy rozkład normalny dla błędów, wówczas zwykłe estymatory …

13 regression normal-distribution mathematical-statistics maximum-likelihood least-squares

3

Dlaczego ślad

W modelu możemy oszacować przy użyciu równania normalnego ：y=Xβ+ϵy=Xβ+ϵ{y} = X \beta + \epsilonββ\beta β^=(X′X)−1X′y,β^=(X′X)−1X′y,\hat{\beta} = (X'X)^{-1}X'y, i moglibyśmy dostaćy^=Xβ^.y^=Xβ^.\hat{y} = X \hat{\beta}. Wektor reszt szacowany jest przez ϵ^=y−Xβ^=(I−X(X′X)−1X′)y=Qy=Q(Xβ+ϵ)=Qϵ,ϵ^=y−Xβ^=(I−X(X′X)−1X′)y=Qy=Q(Xβ+ϵ)=Qϵ,\hat{\epsilon} = y - X \hat{\beta} = (I - X (X'X)^{-1} X') y = Q y = Q (X \beta + \epsilon) …

13 regression least-squares inference

1

Używanie MLE vs. OLS

Kiedy lepiej jest stosować oszacowanie maksymalnego prawdopodobieństwa zamiast zwykłych najmniejszych kwadratów? Jakie są zalety i ograniczenia każdego z nich? Staram się zebrać praktyczną wiedzę na temat tego, gdzie wykorzystać każdą z nich w typowych sytuacjach.

13 regression maximum-likelihood least-squares

Pytania otagowane jako least-squares