ARIMA vs ARMA w zróżnicowanej serii

W R (2.15.2) dopasowałem raz ARIMA (3,1,3) na szeregu czasowym i raz ARMA (3,3) na raz zróżnicowanym szeregu czasowym. Dopasowane parametry różnią się, co przypisałem metodzie dopasowania w ARIMA.

Ponadto dopasowanie ARIMA (3,0,3) do tych samych danych co ARMA (3,3) nie da identycznych parametrów, bez względu na zastosowaną metodę dopasowania.

Interesuje mnie określenie, skąd pochodzi różnica i przy pomocy jakich parametrów mogę (jeśli w ogóle) dopasować ARIMA, aby uzyskać takie same współczynniki dopasowania jak w ARMA.

Przykładowy kod do zademonstrowania:

library(tseries)
set.seed(2)
#getting a time series manually
x<-c(1,2,1)
e<-c(0,0.3,-0.2)
n<-45
AR<-c(0.5,-0.4,-0.1)
MA<-c(0.4,0.3,-0.2)
for(i in 4:n){
tt<-rnorm(1)
t<-x[length(x)]+tt+x[i-1]*AR[1]+x[i-2]*AR[2]+x[i-3]*AR[3]+e[i-1]*MA[1]+e[i-2]*MA[2]+e[i-3]*MA[3]
x<-c(x,t)
e<-c(e,tt)
}
par(mfrow=c(2,1))
plot(x)
plot(diff(x,1))

#fitting different versions. What I would like to get is fit1 with ARIMA()
fit1<-arma(diff(x,1,lag=1),c(3,3),include.intercept=F)
fit2<-arima(x,c(3,1,3),include.mean=F)
fit3<-arima(diff(x,1),c(3,0,3),include.mean=F)
fit4<-arima(x,c(3,1,3),method="CSS",include.mean=F)
fit5<-arima(diff(x,1),c(3,0,3),method="CSS",include.mean=F)

cbind(fit1$coe,fit2$coe,fit3$coe,fit4$coe,fit5$coe)

Edycja: Korzystanie z warunkowej sumy kwadratów jest dość bliskie, ale nie jest całkiem możliwe. Dzięki za podpowiedź dla fit1!

Edycja2: Nie sądzę, że jest to duplikat. Punkty 2 i 3 dotyczą innych problemów niż moje, a nawet jeśli zastąpię inicjalizację wymienioną w punkcie 1 przez

fit4<-arima(x,c(3,1,3),method="CSS",include.mean=F,init=fit1$coe)

Nadal otrzymuję różne współczynniki

Istnieją trzy drobne problemy w tseries::armaporównaniu do stats::arimatego, które prowadzą do nieco innego wyniku w modelu ARMA dla różnych serii przy użyciu tseries::armai ARIMA w stats::arima.

• Początkowe wartości współczynników: stats::arimaustawia początkowe współczynniki AR i MA na zero, a tseries::armado uzyskania wartości początkowych współczynników stosuje się procedurę opisaną w Hannan i Rissanen (1982).

• Skala funkcji celu: funkcja celu w tseries::armazwraca wartość warunkowych sum kwadratów, RSS; stats::arimazwraca 0.5*log(RSS/(n-ncond)).

• Algorytm optymalizacji: domyślnie używany jest Nelder -Mead tseries::arma, a stats::arimastosuje algorytm BFGS.

Ten ostatni może być zmieniony poprzez argument optim.methodw stats::arimaale inni wymagałoby modyfikacji kodu. Poniżej pokazuję skróconą wersję kodu źródłowego (minimalny kod dla tego konkretnego modelu), w stats::arimaktórej trzy wyżej wymienione problemy zostały zmodyfikowane, aby były takie same jak w tseries::arma. Po rozwiązaniu tych problemów tseries::armauzyskuje się taki sam wynik jak w .

Minimalna wersja stats::arima(ze zmianami wymienionymi powyżej):

# objective function, conditional sum of squares
# adapted from "armaCSS" in stats::arima
armaCSS <- function(p, x, arma, ncond)
{
  # this does nothing, except returning the vector of coefficients as a list
  trarma <- .Call(stats:::C_ARIMA_transPars, p, arma, FALSE)
  res <- .Call(stats:::C_ARIMA_CSS, x, arma, trarma[[1L]], trarma[[2L]], as.integer(ncond), FALSE)
  # return the conditional sum of squares instead of 0.5*log(res), 
  # actually CSS is divided by n-ncond but does not relevant in this case
  #0.5 * log(res)
  res
}
# initial values of coefficients  
# adapted from function "arma.init" within tseries::arma
arma.init <- function(dx, max.order, lag.ar=NULL, lag.ma=NULL)
{
  n <- length(dx)
  k <- round(1.1*log(n))
  e <- as.vector(na.omit(drop(ar.ols(dx, order.max = k, aic = FALSE, demean = FALSE, intercept = FALSE)$resid)))
      ee <- embed(e, max.order+1)
      xx <- embed(dx[-(1:k)], max.order+1)
      return(lm(xx[,1]~xx[,lag.ar+1]+ee[,lag.ma+1]-1)$coef) 
}
# modified version of stats::arima
modified.arima <- function(x, order, seasonal, init)
{
  n <- length(x)
  arma <- as.integer(c(order[-2L], seasonal$order[-2L], seasonal$period, order[2L], seasonal$order[2L]))
      narma <- sum(arma[1L:4L])
      ncond <- order[2L] + seasonal$order[2L] * seasonal$period
      ncond1 <- order[1L] + seasonal$period * seasonal$order[1L]
      ncond <- as.integer(ncond + ncond1)
      optim(init, armaCSS, method = "Nelder-Mead", hessian = TRUE, x=x, arma=arma, ncond=ncond)$par
}

Teraz porównaj obie procedury i sprawdź, czy dają ten sam wynik (wymaga serii xwygenerowanej przez OP w treści pytania).

Przy użyciu początkowych wartości wybranych w tseries::arima:

dx <- diff(x)
fit1 <- arma(dx, order=c(3,3), include.intercept=FALSE)
coef(fit1)
#         ar1         ar2         ar3         ma1         ma2         ma3 
#  0.33139827  0.80013071 -0.45177254  0.67331027 -0.14600320 -0.08931003 
init <- arma.init(diff(x), 3, 1:3, 1:3)
fit2.coef <- modified.arima(x, order=c(3,1,3), seasonal=list(order=c(0,0,0), period=1), init=init)
fit2.coef
# xx[, lag.ar + 1]1 xx[, lag.ar + 1]2 xx[, lag.ar + 1]3 ee[, lag.ma + 1]1 
#        0.33139827        0.80013071       -0.45177254        0.67331027 
# ee[, lag.ma + 1]2 ee[, lag.ma + 1]3 
#       -0.14600320       -0.08931003 
all.equal(coef(fit1), fit2.coef, check.attributes=FALSE)
# [1] TRUE

Używając początkowych wartości wybranych w stats::arima(zerach):

fit3 <- arma(dx, order=c(3,3), include.intercept=FALSE, coef=rep(0,6))
coef(fit3)
#         ar1         ar2         ar3         ma1         ma2         ma3 
#  0.33176424  0.79999112 -0.45215742  0.67304072 -0.14592152 -0.08900624 
init <- rep(0, 6)
fit4.coef <- modified.arima(x, order=c(3,1,3), seasonal=list(order=c(0,0,0), period=1), init=init)
fit4.coef
# [1]  0.33176424  0.79999112 -0.45215742  0.67304072 -0.14592152 -0.08900624
all.equal(coef(fit3), fit4.coef, check.attributes=FALSE)
# [1] TRUE

O ile wiem, różnica wynika całkowicie z warunków MA. Oznacza to, że gdy dopasuję twoje dane tylko do warunków AR, ARMA różnych serii i ARIMA zgadzają się.