Statystyki i duże zbiory danych

Pytania i odpowiedzi dla osób zainteresowanych statystyką, uczeniem maszynowym, analizą danych, eksploracją danych i wizualizacją danych

2
Skalowalna redukcja wymiarów
Biorąc pod uwagę stałą liczbę funkcji, Barnes-Hut t-SNE ma złożoność , losowe projekcje i PCA mają złożoność co czyni je „przystępnymi” dla bardzo dużych zestawów danych.O(nlogn)O(nlog⁡n)O(n\log n)O(n)O(n)O(n) Z drugiej strony metody oparte na skalowaniu wielowymiarowym mają złożoność .O(n2)O(n2)O(n^2) Czy istnieją inne techniki redukcji wymiarów (poza trywialnymi, jak na przykład spojrzenie …

1
Właśnie przebiegłem dwa miliony regresji - zintegrowane prawdopodobieństwo
Obecnie pracuję nad wdrożeniem metody stosowanej w popularnym artykule zatytułowanym „I Just Ran Two Million Regressions”. Podstawową ideą jest to, że istnieją pewne przypadki, w których nie jest oczywiste, jakie elementy sterujące powinny być uwzględnione w modelu. Jedną z rzeczy, które możesz zrobić w takim przypadku, jest losowe sterowanie, uruchamianie …

1
Interwał prognoz dla przyszłej proporcji sukcesów w ustawieniach dwumianowych
Załóżmy, że dopasowuję regresję dwumianową i uzyskuję oszacowania punktowe i macierz wariancji-kowariancji współczynników regresji. To pozwoli mi uzyskać CI dla oczekiwanego odsetka sukcesów w przyszłym eksperymencie,ppp, ale potrzebuję CI dla obserwowanej proporcji. Opublikowano kilka powiązanych odpowiedzi, w tym symulację (załóżmy, że nie chcę tego robić) oraz link do Krishnamoorthya i …


2
Co oznacza „hałas Laplace'a”?
Obecnie piszę algorytm różnicowej prywatności za pomocą mechanizmu Laplace'a. Niestety nie mam doświadczenia w statystyce, dlatego wiele terminów jest mi nieznanych. Więc teraz potykam się o termin: hałas Laplace'a . Aby ustawić różnicowanie zbioru danych jako prywatne, wszystkie artykuły mówią tylko o dodaniu szumu Laplace'a zgodnie z rozkładem Laplace'a do …

1
Jak efektywne jest Q-learning z sieciami neuronowymi, gdy na działanie przypada jedna jednostka wyjściowa?
Tło: Używam aproksymacji wartości Q sieci neuronowej w moim zadaniu uczenia się zbrojenia. Podejście jest dokładnie takie samo, jak opisane w tym pytaniu , jednak samo pytanie jest inne. W tym podejściu liczba wyników jest liczbą działań, które możemy podjąć. W prostych słowach algorytm jest następujący: wykonaj akcję A, zbadaj …

1
Czy do oszacowania można zastosować znormalizowane współczynniki w regresji liniowej ?
Próbuję zinterpretować wyniki artykułu, w którym zastosowali regresję wielokrotną, aby przewidzieć różne wyniki. Jednak (standardowe współczynniki B zdefiniowane jako gdzie jest zależne zmienna, a jest predyktorem) zgłoszone wydają się nie pasować do zgłoszonego :ββ\betaβx1=bx1⋅S D.x1S D.yβx1=Bx1⋅SDx1SDy\beta_{x_1} = B_{x_1} \cdot \frac{\mathrm{SD}_{x_1}}{\mathrm{SD}_y}yyyx1x1x_1R2)R2R^2 Pomimo wynoszących -0,83, -0,29, -0,16, -0,43, 0,25 i -0,29, zgłaszane …


2
Jak próbkować obcięty rozkład wielomianowy?
Potrzebuję algorytmu do próbkowania obciętego rozkładu wielomianowego. To jest, x⃗ ∼1Zpx11…pxkkx1! …xk!x→∼1Zp1x1…pkxkx1!…xk!\vec x \sim \frac{1}{Z} \frac{p_1^{x_1} \dots p_k^{x_k}}{x_1!\dots x_k!} gdzie ZZZ jest stałą normalizacyjną, x⃗ x→\vec x ma kkk pozytywne składniki i ∑xja= n∑xi=n\sum x_i = n. Rozważam tylko wartościx⃗ x→\vec{x} w zasięgu za⃗ ≤x⃗ ≤b⃗ a→≤x→≤b→\vec a \le \vec …

1
Czy sieci neuronowe używają wydajnego kodowania?
Moje pytanie dotyczy związku między hipotezą efektywnego kodowania, która została opisana na stronie Wikipedii dotyczącej wydajnego kodowania i algorytmów uczenia sieci neuronowej. Jaki jest związek między efektywną hipotezą kodowania a sieciami neuronowymi? Czy są jakieś modele sieci neuronowych wyraźnie zainspirowane hipotezą wydajnego kodowania? Czy może bardziej sprawiedliwym byłoby stwierdzenie, że …


2
Bezstronny estymator parametru Poissona
Liczba wypadków na dzień jest zmienną losową Poissona o parametrze , w 10 losowo wybranych dniach zaobserwowano liczbę wypadków jako 1,0,1,1,2,0,2,0,0,1, co będzie być obiektywnym estymatorem ?λλ\lambdaeλeλe^{\lambda} Próbowałem w ten sposób: Wiemy, że , ale . Więc jaki będzie wymagany obiektywny estymator?E(x¯)=λ=0.8E(x¯)=λ=0.8E(\bar{x})=\lambda=0.8E(ex¯)≠ eλE(ex¯)≠ eλE(e^{\bar{x}})\neq\ e^{\lambda}


1
Co jest zwyczajne w zwykłych najmniejszych kwadratach?
Mój przyjaciel niedawno zapytał, co jest takiego zwyczajnego, o zwykłych najmniejszych kwadratach. Wydaje się, że nigdzie nie rozmawialiśmy. Obaj zgodziliśmy się, że OLS jest specjalnym przypadkiem modelu liniowego, ma wiele zastosowań, jest dobrze znany i jest szczególnym przypadkiem wielu innych modeli. Ale czy to naprawdę wszystko? Dlatego chciałbym wiedzieć: Skąd …


Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.