Statystyki i duże zbiory danych

1

Dlaczego nie używamy niestałych wskaźników uczenia się dla gradientu przyzwoitego dla rzeczy innych niż sieci neuronowe?

Literatura dogłębnego uczenia się jest pełna sprytnych sztuczek z wykorzystaniem niestałych wskaźników uczenia się przy opadaniu gradientowym. Rzeczy takie jak rozkład wykładniczy, RMSprop, Adagrad itp. Są łatwe do wdrożenia i są dostępne w każdym pakiecie dogłębnego uczenia się, ale wydają się nie istnieć poza sieciami neuronowymi. Czy jest jakiś powód …

14 machine-learning deep-learning optimization gradient-descent

2

Co to jest solidny test statystyczny? Co to jest potężny test statystyczny?

Niektóre testy statystyczne są solidne, a niektóre nie. Co dokładnie oznacza solidność? Zaskakujące, że nie mogłem znaleźć takiego pytania na tej stronie. Co więcej, czasami solidność i moc testu są omawiane razem. I intuicyjnie nie mogłem rozróżnić tych dwóch pojęć. Co to jest potężny test? Czym różni się od solidnego …

14 statistical-significance power robust

3

Jakie problemy statystyczne prawdopodobnie skorzystają na obliczeniach kwantowych?

Jesteśmy nadejściem obliczeń kwantowych , a języki kwantowe przewidują sprzętowe komputery kwantowe dostępne teraz na wysokim i niskim poziomie dla symulowanych komputerów kwantowych. Obliczenia kwantowe wprowadzają nowe elementarne funkcje, takie jak splątanie i teleportacja kubitów, pomiar kubitów i nakładanie superpozycji na kubity. Jakie problemy statystyczne prawdopodobnie skorzystają na obliczeniach kwantowych? …

14 quantum-computing

3

Czy rozkład połączeń 3D można odtworzyć za pomocą marginesów 2D?

Załóżmy, że znamy p (x, y), p (x, z) ip (y, z), czy to prawda, że rozkład połączeń p (x, y, z) jest możliwy do zidentyfikowania? Czyli istnieje tylko jeden możliwy p (x, y, z), który ma powyżej marginesów?

14 distributions mathematical-statistics

5

Dlaczego regresja liniowa wykorzystuje funkcję kosztu opartą na pionowej odległości między hipotezą a wejściowym punktem danych?

Powiedzmy, że mamy wejściowe (predyktor) i wyjściowe (odpowiedź) punkty danych A, B, C, D, E i chcemy dopasować linię przez te punkty. Jest to prosty problem do zilustrowania pytania, ale można go również rozszerzyć na większe wymiary. Opis problemu Bieżące najlepsze dopasowanie lub hipoteza jest reprezentowane przez czarną linię powyżej. …

14 regression linear fitting cost-maximization

3

Definicja rodziny dystrybucji?

Czy rodzina dystrybucji ma inną definicję statystyki niż w innych dyscyplinach? Ogólnie rodzina krzywych jest zbiorem krzywych, z których każda jest podana przez funkcję lub parametryzację, w której zmienia się jeden lub więcej parametrów. Takie rodziny są wykorzystywane na przykład do charakteryzowania komponentów elektronicznych . W przypadku statystyki rodzina według …

14 distributions terminology parametric exponential-family

8

Ile 2-literowych słów można uzyskać od aabcccddef

(aa byłby jednym z wielu, bb nie) Myślałem, że to będzie 10! / 8! Ale najwyraźniej robię coś złego. Czy ktoś może mi pomóc, bo jestem zakłopotany.

14 self-study combinatorics

4

Prawdopodobieństwo, że hipoteza zerowa jest prawdziwa

To może być częste pytanie, ale nigdy nie znalazłem satysfakcjonującej odpowiedzi. Jak określić prawdopodobieństwo, że hipoteza zerowa jest prawdziwa (lub fałszywa)? Powiedzmy, że dajesz uczniom dwie różne wersje testu i chcesz sprawdzić, czy wersje były równoważne. Wykonujesz test t, który daje wartość p wynoszącą 0,02. Co za niezła wartość p! …

14 probability hypothesis-testing bayesian

5

Co to znaczy, że regresja liniowa jest statystycznie istotna, ale ma bardzo niskie r kwadrat do kwadratu?

Rozumiem, że oznacza to, że model źle prognozuje poszczególne punkty danych, ale ustanowił silny trend (np. Y rośnie, gdy x rośnie).

14 regression inference r-squared linear

4

Jak można go uwięzić w siodle?

Obecnie jestem nieco zdziwiony tym, w jaki sposób opadanie gradientu mini-partii może być uwięzione w punkcie siodłowym. Rozwiązanie może być zbyt trywialne, że go nie rozumiem. Masz nową próbkę każda epoka, i oblicza nową błędów oparty na nowej partii, więc funkcja kosztu jest statyczne tylko dla każdej partii, co oznacza, …

14 gradient-descent sgd

1

Jaki jest najmniejszy

Zdefiniuj oszacowanie lasso gdzie i ^ {th} wiersz x_i \ in \ mathbb {R} ^ p macierzy projektowej X \ in \ mathbb {R} ^ {n \ times p} jest wektorem zmiennych towarzyszących dla wyjaśnienia odpowiedzi stochastycznej y_i (dla i = 1, \ kropki n ).β^λ=argminβ∈Rp12n∥y−Xβ∥22+λ∥β∥1,β^λ=arg⁡minβ∈Rp12n‖y−Xβ‖22+λ‖β‖1,\hat\beta^\lambda = \arg\min_{\beta \in \mathbb{R}^p} …

14 lasso regularization

5

Czy rozmiary efektów naprawdę przewyższają wartości p?

Duży nacisk kładzie się na poleganie i zgłaszanie wielkości efektów zamiast wartości p w badaniach stosowanych (np. Cytaty poniżej). Ale czy nie jest tak, że wielkość efektu, podobnie jak wartość p, jest zmienną losową i jako taka może różnić się w zależności od próbki, gdy powtórzy się ten sam eksperyment? …

14 hypothesis-testing confidence-interval p-value effect-size

2

Czy istnieją matematyczne powody splotu w sieciach neuronowych poza celami?

W splotowych sieciach neuronowych (CNN) matryca wag na każdym kroku zostaje odwrócona w celu uzyskania macierzy jądra przed przystąpieniem do splotu. Wyjaśnia to seria filmów Hugo Larochelle tutaj : Obliczenie ukrytych map odpowiadałoby wykonaniu dyskretnego splotu z kanałem z poprzedniej warstwy, przy użyciu macierzy jądra [...], a jądro to jest …

14 machine-learning neural-networks conv-neural-network convolution

6

Czy kiedykolwiek używamy oszacowania maksymalnego prawdopodobieństwa?

Zastanawiam się, czy oszacowanie maksymalnego prawdopodobieństwa kiedykolwiek użyte w statystykach. Uczymy się jego koncepcji, ale zastanawiam się, kiedy jest faktycznie używana. Jeśli przyjmiemy rozkład danych, znajdziemy dwa parametry, jeden dla średniej i jeden dla wariancji, ale czy rzeczywiście używasz go w rzeczywistych sytuacjach? Czy ktoś może mi powiedzieć prosty przypadek, …

14 estimation maximum-likelihood

3

Co oznacza „maszyna” w „maszynie wektora pomocniczego” i „ograniczonej maszynie Boltzmanna”?

Dlaczego nazywane są „maszynami”? Czy w tym kontekście jest używane słowo „maszyna”? (Jak nazwa „programowanie liniowe” może być myląca, ale wiemy, dlaczego nazywa się to „programowaniem”).

14 svm terminology rbm etymology