Statystyki i duże zbiory danych machine-learning

2

Jak poradzić sobie z różnicą między rozkładem zestawu testowego i zestawu treningowego?

Myślę, że jednym z podstawowych założeń uczenia maszynowego lub szacowania parametrów jest to, że niewidoczne dane pochodzą z tego samego rozkładu, co zestaw szkoleniowy. Jednak w niektórych praktycznych przypadkach rozkład zestawu testowego będzie prawie różny od zestawu szkoleniowego. Powiedz o wielkoskalowym problemie wielu klasyfikacji, który próbuje sklasyfikować opisy produktów do …

23 machine-learning classification skewness unbalanced-classes multi-class

2

Czy techniki uczenia maszynowego są „algorytmami aproksymacyjnymi”?

Niedawno pojawiło się pytanie typu ML dotyczące wymiany stosu cstheory, a ja opublikowałem odpowiedź zalecającą metodę Powella, pochodzenie gradientu, algorytmy genetyczne lub inne „algorytmy aproksymacyjne”. W komentarzu ktoś powiedział mi, że te metody to „heurystyka”, a nie „algorytmy aproksymacyjne” i często nie zbliżały się do teoretycznego optimum (ponieważ „często utknęły …

23 machine-learning optimization approximation

3

Witryny z konkursami modelowania predykcyjnego

Biorę udział w konkursach modelowania predykcyjnego w Kaggle , TunedIt i CrowdAnalytix . Uważam, że te strony są dobrym sposobem na „wypracowanie” statystyk / uczenia maszynowego. Czy są jeszcze jakieś strony, o których powinienem wiedzieć? Co sądzisz o konkursach, w których gospodarz zamierza czerpać zyski z zgłoszeń konkurencji? / edycja: …

23 machine-learning predictive-models

5

Alternatywy dla drzew klasyfikacyjnych, z lepszymi wynikami predykcyjnymi (np .: CV)?

Szukam alternatywy dla drzew klasyfikacyjnych, które mogłyby zapewnić lepszą moc predykcyjną. Dane, z którymi mam do czynienia, mają czynniki zarówno dla zmiennych objaśniających, jak i wyjaśnianych. Pamiętam, że w tym kontekście natknąłem się na losowe lasy i sieci neuronowe, chociaż nigdy wcześniej ich nie próbowałem, czy jest jeszcze inny dobry …

23 r machine-learning classification cart

1

Objaśnienie min_child_weight w algorytmie xgboost

Definicja parametru min_child_weight w xgboost jest podawana jako: minimalna suma wagi instancji (hessian) potrzebna dziecku. Jeśli krok partycji drzewa spowoduje utworzenie węzła liścia o sumie wagi instancji mniejszej niż min_child_weight, wówczas proces budowania przerwie dalsze partycjonowanie. W trybie regresji liniowej odpowiada to po prostu minimalnej liczbie wystąpień wymaganych w każdym …

23 machine-learning xgboost hessian

2

Jak działa wzmocnienie?

Jaki jest najłatwiejszy sposób na zrozumienie wzmocnienia? Dlaczego nie podnosi bardzo słabych klasyfikatorów „do nieskończoności” (doskonałość)?

23 machine-learning boosting

3

Wystarczające statystyki dla laika

Czy ktoś może wyjaśnić wystarczające statystyki w bardzo podstawowych terminach? Pochodzę z inżynierii i przeszedłem wiele rzeczy, ale nie znalazłem intuicyjnego wyjaśnienia.

23 machine-learning mathematical-statistics intuition

1

Dlaczego funkcja kosztowa sieci neuronowych nie jest wypukła?

Jest tutaj podobny wątek ( funkcja kosztu sieci neuronowej nie jest wypukła? ), Ale nie byłem w stanie zrozumieć punktów w odpowiedziach i mój powód, by zapytać ponownie, mając nadzieję, że rozwiąże to niektóre problemy: Jeśli używam sumy kwadratowej funkcji różnicy kosztów, ostatecznie optymalizuję coś w postaci gdzie jest rzeczywistą …

22 machine-learning neural-networks optimization loss-functions convex

1

Gradientowa propagacja wsteczna poprzez pomijanie połączeń ResNet

Jestem ciekawy, w jaki sposób gradienty są propagowane wstecz przez sieć neuronową przy użyciu modułów ResNet / pomijania połączeń. Widziałem kilka pytań na temat ResNet (np. Sieć neuronowa z połączeniami pomijanymi ), ale to pytanie dotyczy konkretnie wstecznej propagacji gradientów podczas treningu. Podstawowa architektura jest tutaj: Przeczytałem ten artykuł, Badanie …

22 machine-learning neural-networks conv-neural-network gradient-descent backpropagation

3

Relu vs Sigmoid vs Softmax jako neurony z ukrytą warstwą

Bawiłem się prostą siecią neuronową z tylko jedną ukrytą warstwą, autorstwa Tensorflow, a następnie próbowałem różnych aktywacji dla ukrytej warstwy: Relu Sigmoid Softmax (cóż, zwykle softmax jest używany w ostatniej warstwie ..) Relu zapewnia najlepszą dokładność pociągu i dokładność walidacji. Nie jestem pewien, jak to wyjaśnić. Wiemy, że Relu ma …

22 machine-learning neural-networks conv-neural-network tensorflow sigmoid-curve

4

Jak nazywa się ten wykres pokazujący fałszywe i prawdziwe dodatnie wskaźniki i jak jest generowany?

Poniższy obraz pokazuje ciągłą krzywą współczynników fałszywie dodatnich w stosunku do rzeczywistych wartości dodatnich: Nie od razu jednak rozumiem, jak obliczane są te stawki. Jeśli metoda jest zastosowana do zestawu danych, ma ona określoną szybkość FP i określoną szybkość FN. Czy to nie znaczy, że każda metoda powinna mieć jeden …

22 machine-learning data-visualization roc auc

1

Wybór spośród właściwych zasad punktacji

Większość zasobów na temat prawidłowych reguł punktowania wymienia szereg różnych zasad punktacji, takich jak utrata logów, wynik Briera lub punktacja sferyczna. Często jednak nie udzielają zbyt wielu wskazówek na temat różnic między nimi. (Dowód A: Wikipedia .) Wybór modelu, który maksymalizuje wynik logarytmiczny, odpowiada wybraniu modelu największej wiarygodności, co wydaje …

22 machine-learning classification model-selection theory scoring-rules

2

Kolejne kroki po „Bayesian Reasoning and Machine Learning”

Obecnie przeglądam „Bayesian Reasoning and Machine Learning” Davida Barbera i jest to niezwykle dobrze napisana i wciągająca książka do nauki podstaw. Więc pytanie do kogoś, kto już to zrobił. Jaki zestaw książek powinienem przejrzeć po tym, jak opanuję większość pojęć z fryzjera męskiego?

22 machine-learning bayesian references graphical-model

2

Ograniczone maszyny Boltzmanna a wielowarstwowe sieci neuronowe

Chciałem eksperymentować z siecią neuronową w związku z problemem klasyfikacji, przed którym stoję. Natknąłem się na dokumenty, które mówią o KMS. Ale z tego, co rozumiem, nie różnią się niczym od posiadania wielowarstwowej sieci neuronowej. Czy to jest dokładne? Ponadto pracuję z R i nie widzę żadnych puszkowanych pakietów dla …

22 r machine-learning classification neural-networks

3

Czy statystycy powinni się uczyć uczenia maszynowego?

Czy uczenie maszynowe jest ważnym tematem dla każdego statystyki, z którym należy się zapoznać? Wydaje się, że uczenie maszynowe to statystyki. Dlaczego programy statystyczne (licencjackie i magisterskie) nie wymagają uczenia maszynowego?

22 machine-learning careers

Pytania otagowane jako machine-learning