Oto problem najmniejszych odchyleń bezwzględnych:. Wiem, że można to zmienić jako problem LP w następujący sposób:$\underset{\textbf{w}}{\arg\min} L(w)=\sum_{i=1}^{n}|y_{i}-\textbf{w}^T\textbf{x}|$

$\min \sum_{i=1}^{n}u_{i}$

$u_i \geq \textbf{x}^T\textbf{w}- y_{i} \; i = 1,\ldots,n$

$u_i \geq -\left(\textbf{x}^T\textbf{w}-y_{i}\right) \; i = 1,\ldots,n$

Ale nie mam pojęcia, jak to rozwiązać krok po kroku, ponieważ jestem nowicjuszem w LP. Masz jakiś pomysł? Z góry dziękuję!

EDYTOWAĆ:

Oto ostatni etap, w którym osiągnąłem ten problem. Próbuję rozwiązać problem po tej notatce :

Krok 1: Sformułowanie go do standardowego formularza

$\min Z=\sum_{i=1}^{n}u_{i}$

$\textbf{x}^T\textbf{w} -u_i+s_1=y_{i} \; i = 1,\ldots,n$

$\textbf{x}^T\textbf{w} +u_i+s_2=-y_{i} \; i = 1,\ldots,n$

z zastrzeżeniem $s_1 \ge 0; s_2\ge 0; u_i \ge 0 \ i=1,...,n$

Krok 2: Zbuduj początkowy obraz

           |      |    0      |    1   |  0  |   0   |   0    
 basic var | coef |  $p_0$    |  $u_i$ |  W  | $s_1$ | $s_2$ 
      $s_1$| 0    |  $y_i$    |   -1   |  x  |   1   |   0
      $s_2 | 0    |  $-y_i$   |    1   |  x  |   0   |   1
      z    |      |    0      |    -1  |  0  |   0   |   0

Krok 3: Wybierz podstawowe zmienne

$u_i$ jest wybierany jako wejściowa zmienna podstawowa. Nadchodzi problem. Wybierając wyjściową zmienną podstawową, oczywiste jest, że $y_i/-1=-y_i/1=-y_i$ . Zgodnie z uwagą, jeśli $y_i\ge0$ , problem ma nieograniczone rozwiązanie.

Jestem tu całkowicie zagubiony. Zastanawiam się, czy coś jest nie tak i jak powinienem kontynuować następujące kroki.

Chcesz przykład rozwiązania najmniejszego odchylenia absolutnego przez programowanie liniowe. Pokażę prostą implementację w R. Regresja kwantylowa jest uogólnieniem najmniejszego odchylenia absolutnego, co ma miejsce w przypadku kwantyla 0,5, więc pokażę rozwiązanie regresji kwantylowej. Następnie możesz sprawdzić wyniki z quantregpakietem R :

rq_LP  <-  function(x, Y, r=0.5, intercept=TRUE) {
    require("lpSolve")
    if (intercept) X  <-  cbind(1, x) else X <-  cbind(x)
    N   <-  length(Y)
    n  <-  nrow(X)
    stopifnot(n == N)
    p  <-  ncol(X)
    c  <-  c(rep(r, n), rep(1-r, n), rep(0, 2*p))  # cost coefficient vector
    A  <- cbind(diag(n), -diag(n), X, -X)
    res  <-  lp("min", c, A, "=", Y, compute.sens=1)
### Desempaquetar los coefs:
    sol <- res$solution
    coef1  <-  sol[(2*n+1):(2*n+2*p)]
    coef <- numeric(length=p)
    for (i in seq(along=coef)) {
         coef[i] <- (if(coef1[i]<=0)-1 else +1) *  max(coef1[i], coef1[i+p])
    }
    return(coef)
    }

Następnie używamy go w prostym przykładzie:

library(robustbase)
data(starsCYG)
Y  <- starsCYG[, 2]
x  <- starsCYG[, 1]
rq_LP(x, Y)
[1]  8.1492045 -0.6931818

wtedy sam możesz to sprawdzić za pomocą quantreg.

Programowanie liniowe można uogólnić za pomocą optymalizacji wypukłej, w której oprócz simpleksów dostępnych jest wiele bardziej niezawodnych algorytmów.

Sugeruję, abyś sprawdził wypukłą książkę optymalizacji i dostarczony przez nią zestaw narzędzi CVX. Gdzie można łatwo sformułować najmniejsze odchylenie absolutne dzięki regularyzacji.

https://web.stanford.edu/~boyd/cvxbook/bv_cvxbook.pdf

http://cvxr.com/cvx/