Ponieważ błąd standardowy regresji liniowej jest zwykle podawany dla zmiennej odpowiedzi, zastanawiam się, jak uzyskać przedziały ufności w innym kierunku - np. Dla przecięcia x. Jestem w stanie wyobrazić sobie, co to może być, ale jestem pewien, że musi istnieć prosty sposób, aby to zrobić. Poniżej znajduje się przykład w R na temat wizualizacji tego:

set.seed(1)
x <- 1:10
a <- 20
b <- -2
y <- a + b*x + rnorm(length(x), mean=0, sd=1)

fit <- lm(y ~ x)
XINT <- -coef(fit)[1]/coef(fit)[2]

plot(y ~ x, xlim=c(0, XINT*1.1), ylim=c(-2,max(y)))
abline(h=0, lty=2, col=8); abline(fit, col=2)
points(XINT, 0, col=4, pch=4)
newdat <- data.frame(x=seq(-2,12,len=1000))

# CI
pred <- predict(fit, newdata=newdat, se.fit = TRUE) 
newdat$yplus <-pred$fit + 1.96*pred$se.fit 
newdat$yminus <-pred$fit - 1.96*pred$se.fit 
lines(yplus ~ x, newdat, col=2, lty=2)
lines(yminus ~ x, newdat, col=2, lty=2)

# approximate CI of XINT
lwr <- newdat$x[which.min((newdat$yminus-0)^2)]
upr <- newdat$x[which.min((newdat$yplus-0)^2)]
abline(v=c(lwr, upr), lty=3, col=4)

Jak obliczyć przedział ufności przecięcia X w regresji liniowej?

Założenia

• Użyj prostego modelu regresji $y_i = \alpha + \beta x_i + \varepsilon_i$.
• Błędy mają rozkład normalny zależny od regresorów $\epsilon | X \sim \mathcal{N}(0, \sigma^2 I_n)$
• Dopasuj używając zwykłego najmniejszego kwadratu

3 procedury do obliczania przedziału ufności na przechwytywaniu x

• Rozszerzenie Taylor (łatwy w użyciu)
• Metoda Marc in the box (MIB)
• CAPITANI-POLLASTRI ( https://boa.unimib.it/retrieve/handle/10281/43053/64388/DECAPITANI_Pollastri.pdf )

Rozszerzenie Taylor pierwszego rzędu

Twój model to $Y=aX+b$ z szacowanym odchyleniem standardowym $\sigma_a$ i $\sigma_b$ na $a$ i $b$ parametry i szacowana kowariancja $\sigma_{ab}$. Ty rozwiązujesz

Następnie odchylenie standardowe $\sigma_X$ na $X$ jest dany przez:

MIB

Zobacz kod od Marc w polu „ Jak obliczyć przedział ufności punktu przecięcia x w regresji liniowej”? .

CAPITANI-POLLASTRI

CAPITANI-POLLASTRI zapewnia funkcję skumulowanego rozkładu i funkcję gęstości dla stosunku dwóch skorelowanych normalnych zmiennych losowych. Można go użyć do obliczenia przedziału ufności punktu przecięcia x w regresji liniowej. Ta procedura daje (prawie) identyczne wyniki jak te z MIB.

Rzeczywiście, używając zwykłego najmniejszego kwadratu i zakładając normalność błędów, $\hat\beta \sim \mathcal{N}(\beta, \sigma^2 (X^TX)^{-1})$ (zweryfikowane) i $\hat{\beta}$są skorelowane (zweryfikowane).

Procedura jest następująca:

• pobierz estymator OLS dla $a$ i $b$.
• uzyskaj macierz wariancji-kowariancji i wyodrębnij, $\sigma_a, \sigma_b, \sigma_{ab}=\rho\sigma_a\sigma_b$.
• Zakładać, że $a$ i $b$ postępuj zgodnie z dwuwymiarowym skorelowanym rozkładem normalnym, $\mathcal{N}(a, b, \sigma_a, \sigma_b, \rho)$. Następnie funkcja gęstości i funkcja rozkładu skumulowanego z$x_{intercept}= \frac{-b}{a}$ są podawane przez CAPITANI-POLLASTRI.
• Użyj funkcji kumulatywnej dystrybucji z $x_{intercept}= \frac{-b}{a}$ obliczyć pożądane kwantyle i ustawić przedział ufności.

Porównanie 3 procedur

Procedury są porównywane przy użyciu następującej konfiguracji danych:

• x <- 1:10
• a <- 20
• b <- -2
• y <- a + b * x + rnorm (długość (x), średnia = 0, sd = 1)

10000 różnych próbek jest generowanych i analizowanych przy użyciu 3 metod. Kod (R) używany do generowania i analizy można znaleźć na stronie : https://github.com/adrienrenaud/stackExchange/blob/master/crossValidated/q221630/answer.ipynb

• MIB i CAPITANI-POLLASTRI dają równoważne wyniki.
• Ekspansja Taylora pierwszego rzędu różni się znacznie od dwóch pozostałych metod.
• MIB i CAPITANI-POLLASTRI cierpią z powodu niedostatecznego zasięgu. Stwierdzono, że 68% (95%) ci zawiera prawdziwą wartość 63% (92%) czasu.
• Rozszerzenie Taylor pierwszego rzędu cierpi z powodu nadmiernego zasięgu. Stwierdzono, że 68% (95%) ci zawiera prawdziwą wartość 87% (99%) czasu.

Wnioski

Rozkład punktów przecięcia x jest asymetryczny. Uzasadnia to asymetryczny przedział ufności. MIB i CAPITANI-POLLASTRI dają równoważne wyniki. CAPITANI-POLLASTRI mają fajne uzasadnienie teoretyczne i daje podstawy dla MIB. MIB i CAPITANI-POLLASTRI cierpią z powodu umiarkowanego niedostatecznego zasięgu i mogą być używane do ustalania przedziałów ufności.

Polecam ładowanie resztek:

library(boot)

set.seed(42)
sims <- boot(residuals(fit), function(r, i, d = data.frame(x, y), yhat = fitted(fit)) {

  d$y <- yhat + r[i]

  fitb <- lm(y ~ x, data = d)

  -coef(fitb)[1]/coef(fitb)[2]
}, R = 1e4)
lines(quantile(sims$t, c(0.025, 0.975)), c(0, 0), col = "blue")

Na wykresie pokazano punkty, w których dolna / górna granica przedziału ufności prognoz przecina oś. Nie sądzę, że są to granice ufności przechwytywania, ale może są to przybliżone przybliżenie.