Jak znaleźć odchylenie standardowe próbki odchylenie standardowe od rozkładu normalnego?

Wybacz mi, że coś przeoczyłem.

Jestem fizykiem z rozkładem (histogramem) skupionym wokół średniej wartości zbliżonej do rozkładu normalnego. Ważną dla mnie wartością jest odchylenie standardowe tej losowej zmiennej Gaussa. Jak miałbym spróbować znaleźć błąd w odchyleniu standardowym próbki? Mam wrażenie, że ma to związek z błędem na każdym bin w oryginalnym histogramie.

— Dębnik
źródło

Wskazówka znajduje się na stronie stats.stackexchange.com/questions/26924 . Zasadniczo błąd próbkowania wariancji można obliczyć na podstawie pierwszych czterech momentów rozkładu, a zatem błąd próbkowania SD można przynajmniej oszacować na podstawie tych momentów.

— whuber

Odpowiedzi:

Wygląda na to, że pytasz o obliczenie standardowego odchylenia standardowego odchylenia próbki. Oznacza to, że pytasz o , gdzie ${\rm SD}(s) = \sqrt{ {\rm var}(s) }$

s = \sqrt{\frac{1}{n - 1} \sum_{i = 1}^{n} (X_{i} - \bar{X})},

$s = \sqrt{ \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X}) },$

$X_1, ..., X_n \sim N(\mu, \sigma^2)$ i to średnia z próby. $\overline{X}$

Po pierwsze wiemy z podstawowych właściwości wariancji, że

v a r (s) = E (s^{2}) - E (s)^{2}

${\rm var}(s) = E(s^2) - E(s)^2$

Ponieważ wariancja próbki jest bezstronna, wiemy, że $E(s^2) = \sigma^2$ . W Dlaczego odchylenie standardowe próbki jest tendencyjnym estymatorem ? $\sigma$ , jest obliczana, z której można wywnioskować, $E(s)$

E (s)^{2} = \frac{2 σ^{2}}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}

$E(s)^2 = \frac{2 \sigma^2 }{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2$

w związku z tym

S D (s) = \sqrt{E (s^{2}) - E (s)^{2}} = σ \sqrt{1 - \frac{2}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}}

${\rm SD}(s) = \sqrt{ E(s^2) - E(s)^2 } = \sigma \sqrt{ 1 - \frac{2}{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2 }$

— Makro
źródło

Słuszna uwaga. Mam oszacowanie wariancji s ^ 2. Biorąc pierwiastek kwadratowy daje oszacowanie standardowego odchylenia s ^ 2. Ale odpowiedziałeś na rzeczywiste pytanie, które miało uzyskać standardowe odchylenie s. Zakładam, że ze względów praktycznych i Ty zastąpiłbyś σ s, aby uzyskać oszacowanie za pomocą wzoru.

— Michael R. Chernick

Tak, to prawda, można zastąpić

i przybliżenie to działa dobrze, nawet dla skromnych rozmiarach próbki - Zrobiłem kilka testów z

σ

$\sigma$

s

$s$

n = 20

$n=20$

— Makro

Wielkość ma rozkład chi-kwadrat o stopniach swobody, gdy próbki są niezależne i rozmieszczone z takim samym rozkładem normalnym. Tej wielkości można użyć, aby uzyskać przedziały ufności dla wariancja normy i jej odchylenie standardowe. Jeśli masz surowe wartości, a nie tylko centralną wartość pojemników, możesz obliczyć . $X=(n-1) s^2/\sigma^2$ $n-1$ $s^2$

Wiadomo, że jeśli ma rozkład chi-kwadrat o stopniach swobody, jego wariancja wynosi . Znając to i fakt, że otrzymujemy, że ma wariancję równą $X$ $n-1$ $2(n-1)$ $\mathrm{Var}(cX) = c^2 \mathrm{Var}(X)$ $s^2$ Chociaż jest nieznany, możesz go przybliżyć w przybliżeniu do i masz przybliżone wyobrażenie o tym, jaka jest wariancja .

\frac{2 (n - 1) σ^{4}}{(n - 1)^{2}} = \frac{2 σ^{4}}{n - 1} .

$\frac{2(n-1)\sigma^4}{(n-1)^2} =\frac{2\sigma^4}{n-1} \>.$

σ^{4}

$\sigma^4$

s^{4}

$s^4$

s^{2}

$s^2$

— Michael R. Chernick
źródło

Zamierzałem opublikować to na początku, ale problem, jaki tu widzę, polega na tym, że

jest nieznany. Biorąc to pod uwagę, nie wiem, czy poprawne jest przybliżenie

jeśli nawet nie znamy wielkości próbki. Pamiętam, że można pokazać, że czwarty moment może mieć poważne problemy z wartościami odstającymi.

σ^{2}

$\sigma^2$

s^{4} \approx σ^{4}

$s^4\approx \sigma^4$

— Néstor

jest spójnym estymatorem

(pod warunkiem, że

istnieje), prawda @Nesp? Myślę, że to zwykle ma na myśli, gdy ludzie mówią „przybliżony” lub „szorstki pomysł”.

s^{4}

$s^4$

σ^{4}

$\sigma^4$

σ^{4}

$\sigma^4$

— Makro

Może brak snu, ale czy to nie jest okrągłe rozumowanie?

— Néstor

Od samego początku zakładaliśmy, że dane pochodzą z rozkładu normalnego, więc nie ma problemu z wartościami odstającymi. Miałem na myśli szorstki sposób, jaki sugeruje Macro. Zgadzam się, że wielkość próby wpływa na to, jak blisko s ^ 4 jest do σ ^ 4. Ale martwienie się o wartości odstające jest poza Nesp. Jeśli oddaliście mnie za to, uważam, że jest to bardzo niesprawiedliwe. To, co przedstawiłem, to standardowy sposób oszacowania odchylenia standardowego dla s ^ 2, gdy dane są NORMALNIE ROZPOWSZECHNIANE.

— Michael R. Chernick

@Nesp, Michael podał spójny estymator wariancji odchylenia standardowego próbki od normalnie rozłożonej próbki - w przypadku dużych próbek zrobi to dobrze - zasymuluj ją i dowiedz się. Nie jestem pewien, dlaczego uważasz, że to jest okrągłe rozumowanie.

— Makro

$\sigma$

$x=(x_1,...,x_n)$ $(\mu,\sigma)$

L (μ, σ) \propto \frac{1}{σ^{n}} \exp (- \frac{1}{2 σ^{2}} \sum_{j = 1}^{n} (x_{j} - μ)^{2})

${\mathcal L}(\mu,\sigma) \propto \dfrac{1}{\sigma^n}\exp\left(-\dfrac{1}{2\sigma^2}\sum_{j=1}^n(x_j-\mu)^2\right)$

$(\hat\mu,\hat\sigma)=(\bar x,s)$ $s=\sqrt{\dfrac{1}{n}\sum_{j=1}^n(x_j-\bar x)^2}$ $\sigma$

R_{p} (σ) = \frac{sup_{μ} L (μ, σ)}{L (\hat{μ}, \hat{σ})} = {(\frac{\hat{σ}}{σ})}^{n} \exp [\frac{n}{2} (1 - {(\frac{\hat{σ}}{σ})}^{2})]

$R_p(\sigma)=\dfrac{\sup_{\mu}{\mathcal L}(\mu,\sigma)}{{\mathcal L}(\hat\mu,\hat\sigma)} = \left(\dfrac{\hat\sigma}{\sigma}\right)^n\exp\left[\dfrac{n}{2}\left(1-\left(\dfrac{\hat\sigma}{\sigma}\right)^2\right)\right]$

$R_p:{\mathbb R}_+\rightarrow (0,1]$ $0.147$ $0.95$ $R$

data = rnorm(30)
n = length(data)
sg = sqrt(mean((data-mean(data))^2))
# Profile likelihood
rp = function(sigma) return( (sg/sigma)^n*exp(0.5*n*(1-(sg/sigma)^2))  )
vec = rvec = seq(0.5,1.5,0.01)
for(i in 1:length(rvec)) rvec[i] = rp(vec[i])
plot(vec,rvec,type="l")
rpc = function(sigma) return(rp(sigma)-0.147)
# Approximate 95% confidence interval
c(uniroot(rpc,c(0.7,0.8))$root,uniroot(rpc,c(1.1,1.3))$root)

$\sigma$ $I=(L,U)$ $\sigma^2$ $I^{\prime}=(L^2,U^2)$

Myślę, że naprawdę chciał po prostu standardowego odchylenia s.

— Michael R. Chernick