Wartość, która zwiększa odchylenie standardowe

12

Zastanawia mnie następujące zdanie:

„Aby zwiększyć standardowe odchylenie zestawu liczb, należy dodać wartość, która jest więcej niż jedno odchylenie standardowe od średniej”

Co jest tego dowodem ? Wiem oczywiście, jak definiujemy odchylenie standardowe, ale tę część wydaje mi się jakoś tęsknić. Jakieś komentarze?

standard-deviation

— JohnK
źródło

1

Czy próbowałeś opracować algebrę?

— Alecos Papadopoulos

Tak, mam. Odejmowałem wariancję próbki n wartości od wariancji wartości n + 1 i wymagałem, aby różnica była większa od zera. Jednak nie potrafię tego rozgryźć.

— JohnK

3

Jednym z najprostszych sposobów jest różnicowanie algorytmu względem nowej wartości a następnie integracja, aby pokazać, że jeśli wprowadzenie zwiększa wariancję, to gdzie jest średnią z pierwszych wartości, a jest ich oszacowaniem wariancji.

x_{n}

$x_n$

x_{n}

$x_n$

(x_{n} - {\bar{x}}_{n - 1})^{2} \geq \frac{n}{n - 1} v_{n - 1}

$(x_n-\bar{x}_{n-1})^2 \ge \frac{n}{n-1}v_{n-1}$

{\bar{x}}_{n - 1}

$\bar{x}_{n-1}$

n - 1

$n-1$

v_{n - 1}

$v_{n-1}$

— whuber

Okej, ale czy można to pokazać za pomocą prostej algebry? Moja wiedza na temat statystyk nie jest tak zaawansowana.

— JohnK

@JohnK, czy możesz podać źródło cytatu?

— Pe Dro

20

Dla dowolnych liczb ze średnią , wariancja jest podana przez Stosowanie do podanego zestawu liczb które dla wygody przyjmujemy w prezentacji, że mają średnią , mamy to $N$ $y_1,y_2, \ldots, y_N$ $\displaystyle \bar{y} = \frac{1}{N}\sum_{i=1}^N y_i$

\begin{aligned} σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i} - \bar{y})^{2} \\ = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - 2 y_{i} \bar{y} + {\bar{y}}^{2}) \\ = \frac{1}{N - 1} [(\sum_{i = 1}^{N} y_{i}^{2}) - 2 N (\bar{y})^{2} + N (\bar{y})^{2}] \\ (1) & σ^{2} & = \frac{1}{N - 1} \sum_{i = 1}^{N} (y_{i}^{2} - (\bar{y})^{2}) \end{aligned}

$\begin{align} \sigma^2 &= \frac{1}{N-1}\sum_{i=1}^N (y_i-\bar{y})^2\\ &= \frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - 2y_i\bar{y} + \bar{y}^2\right)\\ &= \frac{1}{N-1}\left[\left(\sum_{i=1}^Ny_i^2\right) - 2N(\bar{y})^2 + N(\bar{y})^2 \right] \\ \sigma^2 &=\frac{1}{N-1}\sum_{i=1}^N \left(y_i^2 - (\bar{y})^2\right) \tag{1} \end{align}$

(1)

$(1)$

n

$n$

x_{1}, x_{2}, \dots x_{n}

$x_1, x_2, \ldots x_n$

\bar{x} = 0

$\bar{x} = 0$

σ^{2} = \frac{1}{n - 1} \sum_{i = 1}^{n} (x_{i}^{2} - (\bar{x})^{2}) = \frac{1}{n - 1} \sum_{i = 1}^{n} x_{i}^{2}

$\sigma^2 = \frac{1}{n-1}\sum_{i=1}^n \left(x_i^2-(\bar{x})^2\right) = \frac{1}{n-1}\sum_{i=1}^n x_i^2$ Jeśli dodamy teraz nową obserwację do tego zestawu danych, nowa średnia zestawu danych to podczas gdy nowa wariancja to Więcmusi być większy niż

x_{n + 1}

$x_{n+1}$

\frac{1}{n + 1} \sum_{i = 1}^{n + 1} x_{i} = \frac{n \bar{x} + x_{n + 1}}{n + 1} = \frac{x_{n + 1}}{n + 1}

$\frac{1}{n+1}\sum_{i=1}^{n+1}x_i = \frac{n\bar{x} + x_{n+1}}{n+1} = \frac{x_{n+1}}{n+1}$

\begin{aligned} {\hat{σ}}^{2} & = \frac{1}{n} \sum_{i = 1}^{n + 1} (x_{i}^{2} - \frac{x_{n + 1}^{2}}{(n + 1)^{2}}) \\ = \frac{1}{n} [((n - 1) σ^{2} + x_{n + 1}^{2}) - \frac{x_{n + 1}^{2}}{n + 1}] \\ = \frac{1}{n} [(n - 1) σ^{2} + \frac{n}{n + 1} x_{n + 1}^{2}] \\ > σ^{2} only if x_{n + 1}^{2} > \frac{n + 1}{n} σ^{2} . \end{aligned}

$\begin{align} \hat{\sigma}^2 &= \frac{1}{n}\sum_{i=1}^{n+1} \left(x_i^2-\frac{x_{n+1}^2}{(n+1)^2}\right)\\ &= \frac{1}{n}\left[\left((n-1)\sigma^2 + x_{n+1}^2\right) - \frac{x_{n+1}^2}{n+1}\right]\\ &= \left.\left.\frac{1}{n}\right[(n-1)\sigma^2 + \frac{n}{n+1}x_{n+1}^2\right]\\ &> \sigma^2 ~ \text{only if}~ x_{n+1}^2 > \frac{n+1}{n}\sigma^2. \end{align}$

| x_{n + 1} |

$|x_{n+1}|$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$ lub, bardziej ogólnie, musi różnić się od średniej oryginalnego zestawu danych o więcej niż , aby rozszerzony zestaw danych miał większą wariancję niż oryginalny zestaw danych. Zobacz także odpowiedź Raya Koopmana, która wskazuje, że nowa wariancja jest większa, równa lub mniejsza niż oryginalna wariancja, ponieważ różni się od średniej o więcej niż, dokładnie lub mniej niż .

x_{n + 1}

$x_{n+1}$

\bar{x}

$\bar{x}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

x_{n + 1}

$x_{n+1}$

σ \sqrt{1 + \frac{1}{n}}

$\displaystyle\sigma\sqrt{1+\frac{1}{n}}$

— Dilip Sarwate
źródło

5

+1 Wreszcie ktoś ma rację ... ;-) Stwierdzenie, które należy udowodnić, jest poprawne; po prostu nie jest ciasno. Nawiasem mówiąc, możesz również wybrać jednostki miary, aby uzyskać , co dodatkowo upraszcza obliczenia, zmniejszając je do około dwóch linii.

σ^{2} = 1

$\sigma^2=1$

— whuber

Sugeruję użycie S zamiast sigma w pierwszym zestawie równań i dzięki za wyprowadzenie. Dobrze było wiedzieć :)

— Theoden

3

Zagadkowe stwierdzenie daje warunek konieczny, ale niewystarczający, aby standardowe odchylenie wzrosło. Jeśli stara wielkość próby wynosi , stara średnia to , stare odchylenie standardowe to , a nowy punkt jest dodawany do danych, to nowe odchylenie standardowe będzie mniejsze niż, równe lub większe niż zgodnie z jakojest mniejsze niż, równe lub większe niż . $n$ $m$ $s$ $x$ $s$ $|x-m|$ $s\sqrt{1+1/n}$

— Ray Koopman
źródło

1

Czy masz pod ręką dowód?

— JohnK

2

Pomijając algebrę (która również działa) pomyśl o tym w ten sposób: odchylenie standardowe jest pierwiastkiem kwadratowym wariancji. Wariancja jest średnią kwadratowych odległości od średniej. Jeśli dodamy wartość bliższą średniej niż ta, wariancja zmniejszy się. Jeśli dodamy wartość, która jest większa od średniej, wzrośnie.

Dotyczy to każdej średniej wartości, które nie są ujemne. Jeśli dodasz wartość wyższą niż średnia, średnia wzrośnie. Jeśli dodasz mniejszą wartość, zmniejsza się.

— Peter Flom - Przywróć Monikę
źródło

Chciałbym również zobaczyć rygorystyczny dowód. Rozumiejąc zasadę, zastanawiam się, że wartość musi być o co najmniej 1 odchylenie od średniej. Dlaczego dokładnie 1?

— JohnK

Nie rozumiem, co jest mylące. Wariancja jest średnią. Jeśli dodasz coś większego niż średnia (to znaczy więcej niż 1 sd), to wzrośnie. Ale nie jestem zwolennikiem formalnych dowodów

— Peter Flom - Przywróć Monikę

Może być większy od średniej o 0,2 odchylenia standardowego. Dlaczego więc nie miałby wzrosnąć?

— JohnK

Nie, nie większa niż średnia danych, większa niż wariancja, która jest średnią z kwadratowych odległości.

— Peter Flom - Przywróć Monikę

4

Jest to mylące, ponieważ dodanie nowej wartości zmienia średnią, więc zmieniają się wszystkie reszty. Można sobie wyobrazić, że nawet gdy nowa wartość jest daleka od starej średniej, jej wkład w SD można by skompensować poprzez zmniejszenie sumy kwadratów reszt pozostałych wartości. Jest to jeden z wielu powodów, dla których rygorystyczne dowody są przydatne: zapewniają one nie tylko bezpieczeństwo wiedzy, ale także wgląd (a nawet nowe informacje). Na przykład, dowód pokaże, że trzeba dodać nową wartość, która jest ściśle dalej niż SD od średniej w celu zwiększenia SD.

— whuber

2

Zacznę od algebry, ale nie wezmę tego do końca. Najpierw ustandaryzuj dane, odejmując średnią i dzieląc przez odchylenie standardowe:Zauważ, że jeśli mieści się w obrębie jednego standardowego odchylenia od średniej, wynosi między -1 a 1. Z będzie wynosić 1, jeśli jest dokładnie o jeden sd od średniej. Następnie spójrz na swoje równanie dla odchylenia standardowego: Co stanie się z jeśli jest między -1 i 1?

Z = \frac{x - μ}{σ} .

$Z = \frac{x-\mu}{\sigma} .$

x

$x$

Z

$Z$

x

$x$

σ = \sqrt{\frac{\sum_{i = 1}^{N} Z_{i}^{2}}{N - 1}}

$\sigma = \sqrt{\frac{\sum_{i=1}^{N}Z_i^2}{N-1}}$

σ

$\sigma$

Z_{N}

$Z_N$

— wcampbell
źródło

Liczba, której wartość bezwzględna jest mniejsza niż 1, po podniesieniu do kwadratu będzie również mniejsza niż 1 w abs. wartość. Jednak nie rozumiem, że nawet jeśli Z_N mieści się w tej kategorii, dodajemy wartość dodatnią do σ, więc czy nie powinna ona wzrosnąć?

— JohnK

Tak, dodajesz wartość dodatnią, ale będzie ona mniejsza niż twoje średnie odchylenie od średniej, a zatem zmniejszy sigma. Może bardziej sensowne byłoby rozważenie tej wartości jako .

Z_{N + 1}

$Z_{N+1}$

— wcampbell

1

1) Nie zapomnij, że dodając tę wartość, zwiększasz również o 1. 2) Nie dodajesz tej wartości do , dodajesz ją do .

N

$N$

σ

$\sigma$

\sum Z_{i}^{2}

$\sum Z_i^2$

— jbowman

Dokładnie to, co próbowałem wyrazić!

— wcampbell

Z_{i}

$Z_i$

N - 1

$N-1$