Jak wyprowadzić błąd standardowy współczynnika regresji liniowej

20

W tym modelu regresji liniowej jednowymiarowej

y_{ja} = β_{0} + β_{1} x_{ja} + ϵ_{ja}

$y_i = \beta_0 + \beta_1x_i+\epsilon_i$ podane zestaw danych

D = {(x_{1}, y_{1}), . . ., (x_{n}, y_{n})}

$D=\{(x_1,y_1),...,(x_n,y_n)\}$ , oszacowania współczynników

jest mój pytanie według książki iWikipedia, błąd standardowy

jest Jak i dlaczego?

{\hat{β}}_{1} = \frac{\sum_{ja} x_{ja} y_{ja} - n \bar{x} \bar{y}}{n {\bar{x}}^{2)} - \sum_{ja} x_{ja}^{2)}}

$\hat\beta_1=\frac{\sum_ix_iy_i-n\bar x\bar y}{n\bar x^2-\sum_ix_i^2}$

{\hat{β}}_{0} = \bar{y} - {\hat{β}}_{1} \bar{x}

$\hat\beta_0=\bar y - \hat\beta_1\bar x$

{\hat{β}}_{1}

$\hat\beta_1$

s_{{\hat{β}}_{1}} = \sqrt{\frac{\sum_{ja} {\hat{ϵ}}_{ja}^{2)}}{(n - 2)) \sum_{ja} (x_{ja} - \bar{x})^{2)}}}

$s_{\hat\beta_1}=\sqrt{\frac{\sum_i\hat\epsilon_i^2}{(n-2)\sum_i(x_i-\bar x)^2}}$

standard-error inference

— awokado
źródło

1

stats.stackexchange.com/questions/44838/…

— ocram

@ocram, dziękuję, ale nie jestem w stanie poradzić sobie z macierzą, spróbuję.

— awokado

1

(n - 2)

$(n-2)$

15

Trzeci komentarz powyżej: już rozumiem, jak to się dzieje. Ale wciąż pytanie: w moim poście błąd standardowy ma (n-2), gdzie według twojej odpowiedzi tak nie jest, dlaczego?

\hat{se} (\hat{b}) = \sqrt{\frac{n {\hat{σ}}^{2)}}{n \sum x_{ja}^{2)} - (\sum x_{ja})^{2)}}} .

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{n \hat{\sigma}^2}{n\sum x_i^2 - (\sum x_i)^2}}.$

n \sum_{ja} (x_{ja} - \bar{x})^{2)}

$n \sum_i (x_i - \bar{x})^2$

\hat{se} (\hat{b}) = \sqrt{\frac{{\hat{σ}}^{2)}}{\sum_{ja} (x_{ja} - \bar{x})^{2)}}}

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{\hat{\sigma}^2}{\sum_i (x_i - \bar{x})^2}}$

{\hat{σ}}^{2)} = \frac{1}{n - 2)} \sum_{ja} {\hat{ϵ}}_{ja}^{2)}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

\hat{se} (\hat{b})

$\widehat{\text{se}}(\hat{b})$

n - 2

$n-2$

— ocram
źródło

1

{\hat{σ}}^{2} = \frac{1}{n - 2} \sum_{i} {\hat{ϵ}}_{i}^{2}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

2

innym sposobem myślenia o n-2 df jest to, że wykorzystujemy 2 środki do oszacowania współczynnika nachylenia (średnia Y i X)

df z Wikipedii: „... Ogólnie rzecz biorąc, stopnie swobody oszacowania parametru są równe liczbie niezależnych wyników wchodzących w oszacowanie minus liczba parametrów użytych jako etapy pośrednie w oszacowaniu samego parametru . ”

— Eivind
źródło

2

To nie jest tak naprawdę pochodna, ale jest to intuicja. Aby zapoznać się z niektórymi subtelnościami z tym związanymi, zobacz Jak zrozumieć stopnie swobody?

— Silverfish,