W kontekście modelu predykcyjnego lub wnioskowania termin „błąd” ogólnie odnosi się do odchylenia od wartości rzeczywistej od prognozy lub oczekiwań tej wartości. Jest to całkowicie determinowane przez mechanizm prognozowania i faktyczne zachowanie obserwowanych wielkości. „Utrata” jest skwantyfikowaną miarą tego, jak źle jest uzyskać błąd o określonym rozmiarze / kierunku, na który wpływ mają negatywne konsekwencje wynikające z niedokładnego przewidywania.
Funkcja błędu mierzy odchylenie obserwowalnej wartości od prognozy, podczas gdy funkcja straty działa na błędzie w celu kwantyfikacji negatywnej konsekwencji błędu. Na przykład w niektórych kontekstach uzasadnione może być stwierdzenie, że występuje kwadratowa utrata błędu , przy czym negatywną konsekwencję błędu określa się ilościowo jako proporcjonalną do kwadratu błędu. W innych kontekstach możemy być bardziej negatywnie dotknięci błędem w danym kierunku (np. Fałszywie dodatni vs. fałszywie ujemny) i dlatego możemy przyjąć niesymetryczną funkcję straty.
Funkcja błędu jest obiektem czysto statystycznym, podczas gdy funkcja straty jest przedmiotem teoretycznym, który wprowadzamy w celu oszacowania negatywnych konsekwencji błędu. Ten drugi jest wykorzystywany w teorii decyzji i ekonomii (zwykle poprzez jego przeciwieństwo - kardynalną funkcję użyteczności).
Przykład: Jesteś kryminalistą prowadzącym nielegalny salon zakładów dla Mobu. Każdego tygodnia musisz wpłacać 50% zysków szefowi mafii, ale skoro prowadzisz to miejsce, szef polega na tobie, aby zapewnić prawdziwe rozliczenie zysków. Jeśli masz dobry tydzień, być może uda ci się wytrącić go z ciasta, niedostatecznie reprezentując swój zysk, ale jeśli przepłacasz szefowi, w stosunku do tego, co podejrzewa, że jest prawdziwym zyskiem, jesteś trupem. Więc chcesz przewidzieć, ile on spodziewa się, i odpowiednio zapłacić. Idealnie dasz mu dokładnie to, czego się spodziewa, i zatrzymasz resztę, ale możesz potencjalnie popełnić błąd prognozy i zapłacić mu za dużo lub (tak!) Za mało.
π= $ 40 , 00012π=$20,000θ=$15,000θ^
Error(θ^,θ)=θ^−θ,
oraz (jeśli założymy, że strata ma charakter liniowy w pieniądzu), twoją funkcją straty jest:
Loss(θ^,θ)={∞θ^−πif θ^<θ(sleep wit' da fishes)if θ^⩾θ(live to spend another week)
Jest to przykład asymetrycznej funkcji straty (rozwiązanie omówione w komentarzach poniżej), która znacznie różni się od funkcji błędu. Asymetryczny charakter funkcji straty w tym przypadku podkreśla katastrofalny wynik w przypadku niedoszacowania nieznanego parametru.