Statystyki i duże zbiory danych

Natknąłem się na następujący problem z symulacją: biorąc pod uwagę zestaw {ω1, ... ,ωre}{ω1,…,ωd}\{\omega_1,\ldots,\omega_d\} znanych liczb rzeczywistych, rozkład na { - 1 , 1}re{−1,1}d\{-1,1\}^d jest zdefiniowany przez P (X= (x1, ... ,xre) ) ∝ (x1ω1+ … +xreωre)+P(X=(x1,…,xd))∝(x1ω1+…+xdωd)+\mathbb{P}(X=(x_1,\ldots,x_d))\propto (x_1\omega_1+\ldots+x_d\omega_d)_+ gdzie ( z)+(z)+(z)_+ oznacza pozytywną część zzz. Chociaż mogę wymyślić próbnik Metropolis-Hastings …

9 simulation  algorithms  random-generation  computational-statistics  metropolis-hastings 

Najprostsza definicja wystarczającej statystyki w perspektywie częstokrzyskiej znajduje się tutaj w Wikipedii . Ostatnio natknąłem się jednak na książkę bayesowską z definicją . W linku stwierdzono, że oba są równoważne, ale nie rozumiem, jak to zrobić. Również na tej samej stronie w sekcji „Inne typy wystarczalności” stwierdzono, że obie definicje …

9 bayesian  mathematical-statistics  sufficient-statistics 

Próbuję modelować i prognozować szereg czasowy, który jest raczej cykliczny niż sezonowy (tzn. Istnieją wzorce podobne do sezonowych, ale nie z ustalonym okresem). Powinno to być możliwe przy użyciu modelu ARIMA, jak wspomniano w sekcji 8.5 Prognozowania: zasady i praktyka : Wartość jest ważna, jeśli dane pokazują cykle. Aby uzyskać …

9 time-series  forecasting  arima  seasonality 

Badam różnicę między regularyzacją w regresji RKHS a regresją liniową, ale trudno mi zrozumieć kluczową różnicę między nimi. Biorąc pod uwagę pary wejścia-wyjścia , chcę oszacować funkcję w następujący sposób gdzie jest funkcją jądra. Współczynniki można znaleźć, rozwiązując gdzie, z pewnym nadużyciem notacji, i, j wpis w macierzy K jądra …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

Niedawno obejrzałem tę rozmowę Erica J. Ma i sprawdziłem jego wpis na blogu , w którym cytuje Radforda Neala, że ​​modele bayesowskie nie pasują (ale mogą się przewyższać ), a podczas ich używania nie potrzebujemy zestawów testowych do ich weryfikacji (dla wydaje mi się, że cytaty mówią raczej o użyciu …

9 machine-learning  bayesian  cross-validation  deep-learning 

Plik pdf jest zwykle zapisywany jako f(x|θ)f(x|θ)f(x|\theta), gdzie małe litery xxx jest traktowany jako realizacja lub wynik zmiennej losowej XXXktóry ma ten pdf. Podobnie plik cdf jest zapisywany jakoFX(x)FX(x)F_X(x), co ma znaczenie P(X&lt;x)P(X&lt;x)P(X<x). Jednak w niektórych okolicznościach, takich jak definicja funkcji score i to wyprowadzenie, że cdf jest równomiernie rozłożony …

9 random-variable  pdf  cdf  intuition 

Zamknięte . To pytanie musi być bardziej skoncentrowane . Obecnie nie przyjmuje odpowiedzi. Chcesz poprawić to pytanie? Zaktualizuj pytanie, aby skupiało się tylko na jednym problemie, edytując ten post . Zamknięte 2 lata temu . Jestem nowy w dziedzinie uczenia maszynowego, ale chciałem spróbować wdrożyć prosty algorytm klasyfikacji za pomocą …

9 machine-learning  classification  neural-networks  transfer-learning 

Spotkałem paradoksalne zachowanie tak zwanych „testów dokładnych” lub „testów permutacyjnych”, których prototypem jest test Fishera. Oto jest. Wyobraź sobie, że masz dwie grupy po 400 osobników (np. 400 kontroli i 400 przypadków) oraz zmienną towarzyszącą z dwiema modalnościami (np. Eksponowanymi / nienaświetlonymi). Jest tylko 5 narażonych osób, wszystkie w drugiej …

9 power  permutation-test  fishers-exact 

Obecnie szukam Przeglądu algorytmów uczenia się zbrojenia i być może ich klasyfikacji. Ale obok Sarsa i Q-Learning + Deep Q-Learning nie mogę znaleźć żadnych popularnych algorytmów. Wikipedia daje mi przegląd różnych ogólnych metod uczenia się zbrojenia, ale nie ma odniesienia do różnych algorytmów wdrażających te metody. Ale może mylę ogólne …

9 reinforcement-learning  q-learning 

Niech będzie w . Jaka jest średnia i macierz kowariancji (z maksimum obliczonym elementarnie)?Z∼N(μ,Σ)Z∼N(μ,Σ)Z \sim \mathcal N(\mu, \Sigma)RdRd\mathbb R^dZ+=max(0,Z)Z+=max(0,Z)Z_+ = \max(0, Z) Dzieje się tak np. Dlatego, że jeśli użyjemy funkcji aktywacji ReLU w głębokiej sieci i założymy przez CLT, że wejścia do danej warstwy są w przybliżeniu normalne, to …

9 probability  distributions  normal-distribution  moments  censoring 

Próbuję zrozumieć wewnętrzne działanie Hamiltona Monte Carlo (HMC), ale nie mogę w pełni zrozumieć tej części, kiedy zastępujemy deterministyczną integrację czasową propozycją Metropolis-Hasting. Czytam niesamowity wstępny artykuł „Koncepcyjne wprowadzenie do Hamiltonian Monte Carlo” autorstwa Michaela Betancourta, więc będę postępować zgodnie z tą samą notacją, która została w nim zastosowana. tło …

9 mcmc  monte-carlo  hmc 

Nierzadko zdarza się, gdy mamy do czynienia ze złożonymi maksymalnymi modelami mieszanymi (szacowanie wszystkich możliwych efektów losowych dla danych i modelu) jest idealna (+1 lub -1) lub prawie idealna korelacja między niektórymi efektami losowymi. Na potrzeby dyskusji przyjrzyjmy się poniższemu modelowi i podsumowaniu modelu Model: Y ~ X*Cond + (X*Cond|subj) …

9 r  correlation  mixed-model  lme4-nlme  covariance-matrix 

Załóżmy, że robimy zabawkowy przykład na przyzwoitym gradiencie, minimalizując funkcję kwadratową , stosując ustalony rozmiar kroku . ( A = [10, 2; 2, 3] )xT.A xxTAxx^TAxα = 0,03α=0.03\alpha=0.03A = [ 10 , 2 ; 2 , 3 ]A=[10,2;2,3]A=[10, 2; 2, 3] Jeśli wykreślimy ślad xxx w każdej iteracji, otrzymamy następujący …

9 r  machine-learning  optimization  gradient-descent 

Jeśli mam dwa różne rozkłady symetryczne (w odniesieniu do mediany) XXX i YYYjest różnica X- YX−YX-Y również symetryczny (w odniesieniu do mediany) rozkład?

9 distributions  median 

Gdyby X∼C(0,1)X∼C(0,1)X\sim\mathcal C(0,1), znajdź rozkład Y=2X1−X2Y=2X1−X2Y=\frac{2X}{1-X^2}. Mamy FY(y)=Pr(Y≤y)FY(y)=Pr(Y≤y)F_Y(y)=\mathrm{Pr}(Y\le y) =Pr(2X1−X2≤y)=Pr(2X1−X2≤y)\qquad\qquad\qquad=\mathrm{Pr}\left(\frac{2X}{1-X^2}\le y\right) =⎧⎩⎨⎪⎪⎪⎪⎪⎪Pr(X∈(−∞,−1−1+y2√y])+Pr(X∈ ( - 1 ,- 1 +1 +y2)√y] ) ,jeśliy&gt; 0P r ( X∈ ( - 1 ,- 1 +1 +y2)√y] ) + P r ( X∈ ( 1 ,- 1 -1 +y2)√y] ) ,jeśliy&lt; 0={Pr(X∈(−∞,−1−1+y2y])+Pr(X∈(−1,−1+1+y2y]),ify&gt;0Pr(X∈(−1,−1+1+y2y])+Pr(X∈(1,−1−1+y2y]),ify&lt;0\qquad\qquad=\begin{cases} \mathrm{Pr}\left(X\in\left(-\infty,\frac{-1-\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad y>0\\ \mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(1,\frac{-1-\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad …

9 self-study  distributions  mathematical-statistics  random-variable