Pytania otagowane jako exponential-family

Natknąłem się na uwagę w The Chemical Statistician, że mediana próbki może być często wyborem wystarczającej statystyki, ale poza oczywistym przypadkiem jednej lub dwóch obserwacji, w których jest równa średniej próbki, nie mogę wymyślić innej nietrywialnej i iid przypadek, w którym mediana próbki jest wystarczająca.

21 median  exponential-family  sufficient-statistics  chemistry 

Więc tutaj studiuję wnioskowanie. Chciałbym, aby ktoś mógł wymienić zalety wykładniczej rodziny. Przez rodzinę wykładniczą rozumiem rozkłady, które są podane jako f( x|θ)=h(x)exp{η(θ)T( x ) - B ( θ)}f(x|θ)=h(x)exp⁡{η(θ)T.(x)-b(θ)}\begin{align*} f(x|\theta) = h(x)\exp\left\{\eta(\theta)T(x) - B(\theta)\right\} \end{align*} których wsparcie nie zależy od parametru θθ\theta . Oto kilka zalet, które odkryłem: (a) Obejmuje …

19 self-study  exponential-family 

Czytam książkę: Bishop, Rozpoznawanie wzorców i uczenie maszynowe (2006) który definiuje wykładniczą rodzinę jako rozkłady postaci (równanie 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp⁡{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\} Ale nie widzę żadnych ograniczeń dotyczących lub . Czy to nie oznacza, że dowolna dystrybucja może być …

18 mathematical-statistics  exponential-family 

Rozkład Poissona może mierzyć zdarzenia na jednostkę czasu, a parametr to λλ\lambda . Rozkład wykładniczy mierzy czas do następnego zdarzenia za pomocą parametru 1λ1λ\frac{1}{\lambda} . Można przekształcić jedną dystrybucję w drugą, w zależności od tego, czy łatwiej jest modelować zdarzenia lub czasy. Teraz gamma-poissona jest „rozciągniętym” poissonem o większej wariancji. …

16 poisson-distribution  negative-binomial  gamma-distribution  exponential-family 

Moje pytania to: Czy uogólnione modele liniowe (GLM) są gwarantowane, że osiągną globalne maksimum? Jeśli tak, to dlaczego? Co więcej, jakie są ograniczenia funkcji łączenia w celu zapewnienia wypukłości? Rozumiem GLM, że maksymalizują one wysoce nieliniową funkcję wiarygodności. Tak więc wyobrażam sobie, że istnieje kilka lokalnych maksimów, a zestaw parametrów, …

16 generalized-linear-model  optimization  convergence  exponential-family 

\newcommand{\E}{\mathbb{E}} Jaka jest transformacja normalizująca dla rodziny wykładniczej pochodny? A(⋅)=∫duV1/3(μ)A(⋅)=∫duV1/3(μ)A(\cdot) = \displaystyle\int\frac{du}{V^{1/3}(\mu)} Mówiąc dokładniej : Próbowałem postępować zgodnie ze szkicem rozszerzenia Taylora na stronie 3, slajd 1 tutaj, ale mam kilka pytań. Gdy z rodziny wykładniczej, transformacja h (X) i \ kappa _i oznaczają i ^ {th} kumulant, slajdy twierdzą, …

15 data-transformation  residuals  asymptotics  exponential-family 

Wybór sparametryzowania rozkładu gamma Γ(b,c)Γ(b,c)\Gamma(b,c) według pdf g(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c)=1Γ(c)xc−1bce−x/bg(x;b,c) = \frac{1}{\Gamma(c)}\frac{x^{c-1}}{b^c}e^{-x/b} Rozbieżność Kullbacka-Leiblera międzyΓ(bq,cq)Γ(bq,cq)\Gamma(b_q,c_q)iΓ(bp,cp)Γ(bp,cp)\Gamma(b_p,c_p)jest podana przez [1] as KLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−logbq−cq−logΓ(cq)+logΓ(cp)+cplogbp−(cp−1)(Ψ(cq)+logbq)+bqcqbpKLGa(bq,cq;bp,cp)=(cq−1)Ψ(cq)−log⁡bq−cq−log⁡Γ(cq)+log⁡Γ(cp)+cplog⁡bp−(cp−1)(Ψ(cq)+log⁡bq)+bqcqbp\begin{align} KL_{Ga}(b_q,c_q;b_p,c_p) &= (c_q-1)\Psi(c_q) - \log b_q - c_q - \log\Gamma(c_q) + \log\Gamma(c_p)\\ &\qquad+ c_p\log b_p - (c_p-1)(\Psi(c_q) + \log b_q) + \frac{b_qc_q}{b_p} \end{align} Zgaduję, że Ψ(x):=Γ′(x)/Γ(x)Ψ(x):=Γ′(x)/Γ(x)\Psi(x):= \Gamma'(x)/\Gamma(x) jest funkcją digamma . Jest …

15 kullback-leibler  gamma-distribution  exponential-family 

Czy rodzina dystrybucji ma inną definicję statystyki niż w innych dyscyplinach? Ogólnie rodzina krzywych jest zbiorem krzywych, z których każda jest podana przez funkcję lub parametryzację, w której zmienia się jeden lub więcej parametrów. Takie rodziny są wykorzystywane na przykład do charakteryzowania komponentów elektronicznych . W przypadku statystyki rodzina według …

14 distributions  terminology  parametric  exponential-family 

Załóżmy, że losowa zmienna skalarna należy do wykładniczej rodziny wektorowej o formacie pdfXXX fX(x|θ)=h(x)exp(∑i=1sηi(θ)Ti(x)−A(θ))fX(x|θ)=h(x)exp⁡(∑i=1sηi(θ)Ti(x)−A(θ)) f_X(x|\boldsymbol \theta) = h(x) \exp\left(\sum_{i=1}^s \eta_i({\boldsymbol \theta}) T_i(x) - A({\boldsymbol \theta}) \right) gdzie θ=(θ1,θ2,⋯,θs)Tθ=(θ1,θ2,⋯,θs)T{\boldsymbol \theta} = \left(\theta_1, \theta_2, \cdots, \theta_s \right )^T to wektor parametru, a T(x)=(T1(x),T2(x),⋯,Ts(x))TT(x)=(T1(x),T2(x),⋯,Ts(x))T\mathbf{T}(x)= \left(T_1(x), T_2(x), \cdots,T_s(x) \right)^T to łączna wystarczająca statystyka. Można …

11 variance  mean  exponential-family  sufficient-statistics 

W GLM, zakładając skalarny i dla rozkładu leżącego u podstaw z pdf Można wykazać, że . Jeśli funkcja łączenia spełnia następujące warunki, gdzie jest predyktorem liniowym, wówczas nazywa się w tym celu funkcją łącza kanonicznego Model.YYYθθ\thetafY(y|θ,τ)=h(y,τ)exp(θy−A(θ)d(τ))fY(y|θ,τ)=h(y,τ)exp⁡(θy−A(θ)d(τ))f_Y(y | \theta, \tau) = h(y,\tau) \exp{\left(\frac{\theta y - A(\theta)}{d(\tau)} \right)}μ=E(Y)=A′(θ)μ=E⁡(Y)=A′(θ) \mu = \operatorname{E}(Y) = …

11 generalized-linear-model  exponential-family 

Dla rozkładu Gaussa o nieznanej średniej i wariancji wystarczające statystyki w standardowej postaci rodziny wykładniczej to . Mam rozkład, który ma , gdzie N jest trochę jak parametr projektowy. Czy istnieje odpowiedni znany rozkład dla tego rodzaju wystarczającego wektora statystyki? Potrzebuję próbek z tej dystrybucji, więc dla mnie bardzo ważne …

10 normal-distribution  sampling  exponential-family 

Pozwolić X1,X2,...,XnX1,X2,...,XnX_1, X_2, . . . , X_n być zmiennymi losowymi mającymi pdf fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)fX(x∣θ)=θ(1+x)−(1+θ)I(0,∞)(x)f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x) gdzie θ>0θ>0\theta >0. Podaj UMVUE z1θ1θ\frac{1}{\theta} i obliczyć jego wariancję Dowiedziałem się o dwóch takich metodach dla uzyskanych UMVUE: Cramer-Rao Lower Bound (CRLB) Lehmann-Scheffe Thereom Spróbuję tego przy użyciu pierwszego z nich. Muszę przyznać, …

10 self-study  estimation  inference  exponential-family  umvue 

Niech będzie losową próbką o rozkładzie dla . To znaczy,X1,...,XnX1,...,Xn X_1, ...,X_nGeometric(θ)Geometric(θ)Geometric(\theta)0&lt;θ&lt;10&lt;θ&lt;10<\theta<1 pθ(x)=θ(1−θ)x−1I{1,2,...}(x)pθ(x)=θ(1−θ)x−1I{1,2,...}(x)p_{\theta}(x)=\theta(1-\theta)^{x-1} I_{\{1,2,...\}}(x) Znajdź obiektywny estymator o minimalnej wariancji dlag(θ)=1θg(θ)=1θg(\theta)=\frac{1}{\theta} Moja próba: Ponieważ rozkład geometryczny pochodzi z rodziny wykładniczej, statystyki jest kompletna i wystarczająca dla . Ponadto, jeśli jest estymatorem dla , jest on bezstronny. Dlatego według twierdzenia Rao-Blackwella …

10 probability  self-study  estimation  unbiased-estimator  exponential-family 

Moje pytanie wynika z przeczytania „Szacowania rozkładu Dirichleta” Minki , który stwierdza bez dowodu w kontekście wyprowadzenia estymatora największego prawdopodobieństwa dla rozkładu Dirichleta na podstawie obserwacji losowych wektorów: Jak zawsze w przypadku rodziny wykładniczej, gdy gradient wynosi zero, oczekiwane wystarczające statystyki są równe zaobserwowanym wystarczającym statystykom. Nie widziałem oszacowania maksymalnego …

10 self-study  maximum-likelihood  exponential-family  sufficient-statistics 

W analizie przeżycia zakładasz, że czas przeżycia rv jest rozkładany wykładniczo. Biorąc pod uwagę teraz, że mam „wyniki” iid rv . Tylko część tych wyników jest w rzeczywistości „w pełni zrealizowana”, tzn. Pozostałe obserwacje są nadal „żywe”.XiXiX_ix1,…,xnx1,…,xnx_1,\dots,x_nXiXiX_i Jeśli chciałbym przeprowadzić oszacowanie ML dla parametru częstości rozkładu, jak mogę wykorzystać niezrealizowane …

9 maximum-likelihood  references  survival  censoring  exponential-family