Statystyki i duże zbiory danych

2

Co to jest błąd Bayesa w uczeniu maszynowym?

http://www.deeplearningbook.org/contents/ml.html Strona 116 wyjaśnia błąd Bayesa jak poniżej Idealny model to wyrocznia, która po prostu zna prawdziwy rozkład prawdopodobieństwa, który generuje dane. Nawet taki model nadal będzie powodował błąd w wielu problemach, ponieważ może nadal występować szum w dystrybucji. W przypadku uczenia nadzorowanego mapowanie od x do y może być …

15 machine-learning deep-learning terminology

2

Skorelowane próby Bernoulliego, wielowymiarowy rozkład Bernoulliego?

Upraszczam pytanie badawcze, które mam w pracy. Wyobraź sobie, że mam 5 monet i zadzwońmy do głów sukcesu. Są to BARDZO stronnicze monety z prawdopodobieństwem sukcesu p = 0,1. Teraz, gdy monety były niezależne, to prawdopodobieństwo uzyskania co najmniej 1 lub więcej głowy jest bardzo prosta, . W moim scenariuszu …

15 multivariate-analysis bernoulli-distribution copula

1

Jak interpretować entropię różnicową?

Niedawno przeczytałem ten artykuł na temat entropii dyskretnego rozkładu prawdopodobieństwa. Opisuje ładny sposób myślenia o entropii jako oczekiwanej liczbie bitów (przynajmniej przy użyciu w definicji entropii) potrzebnej do zakodowania wiadomości, gdy kodowanie jest optymalne, biorąc pod uwagę rozkład prawdopodobieństwa użytych słów.log2)log2\log_2 Jednak w przypadku ciągłego przypadku, takiego jak tutaj, uważam, …

15 entropy information-theory

2

Co to jest „linia bazowa” w precyzyjnej krzywej przywołania

Próbuję zrozumieć krzywą przywołania precyzji, rozumiem, na czym polega precyzja i przywołanie, ale nie rozumiem wartości „podstawowej”. Czytałem ten link https://classeval.wordpress.com/introduction/introduction-to-the-precision-recall-plot/ i nie rozumiem części podstawowej, jak pokazano w „Krzywej precyzji-przywołania doskonałego klasyfikatora”, co to robi? i jak to obliczyć? Czy to tylko losowa linia bazowa, którą wybraliśmy? Na przykład …

15 r machine-learning classification precision-recall

3

Dlaczego zawsze istnieje co najmniej jedna polisa, która jest lepsza lub równa od wszystkich innych polis?

Uczenie się przez zbrojenie: wprowadzenie. Druga edycja, w toku ., Richard S. Sutton i Andrew G. Barto (c) 2012, s. 67–68. Rozwiązanie zadania polegającego na uczeniu się o wzmocnieniu oznacza z grubsza znalezienie polityki, która na dłuższą metę osiągnie wiele nagród. W przypadku skończonych MDP możemy precyzyjnie zdefiniować optymalną politykę …

15 markov-process reinforcement-learning

3

Przydatność twierdzenia Frisch-Waugh

Mam uczyć twierdzenia Frisha Waugha w ekonometrii, której nie studiowałem. Zrozumiałem matematykę, która się za tym kryje, i mam nadzieję, że pomysł „współczynnik, który otrzymujesz dla określonego współczynnika z wielokrotnego modelu liniowego, jest równy współczynnikowi prostego modelu regresji, jeśli„ wyeliminujesz ”wpływ innych regresorów”. Więc teoretyczny pomysł jest całkiem fajny. (Jeśli …

15 regression econometrics least-squares projection decomposition

5

Czy lepiej jest przeprowadzać eksploracyjną analizę danych tylko w zestawie danych szkoleniowych?

Wykonuję eksploracyjną analizę danych (EDA) na zbiorze danych. Następnie wybiorę niektóre funkcje, aby przewidzieć zmienną zależną. Pytanie brzmi: czy powinienem wykonywać EDA tylko na moim zestawie danych szkoleniowych? A może powinienem dołączyć do zestawu danych szkoleniowych i testowych, a następnie wykonać na nich EDA i wybrać funkcje oparte na tej …

15 dataset feature-selection feature-construction eda

2

Średni ROC dla powtarzanej 10-krotnej walidacji krzyżowej z oszacowaniami prawdopodobieństwa

Planuję użyć powtarzanej (10 razy) stratyfikacji 10-krotnej krzyżowej walidacji na około 10 000 przypadków przy użyciu algorytmu uczenia maszynowego. Za każdym razem powtórzenie zostanie wykonane z innym losowym ziarnem. W tym procesie tworzę 10 przypadków oszacowań prawdopodobieństwa dla każdego przypadku. 1 przypadek oszacowania prawdopodobieństwa dla każdego z 10 powtórzeń 10-krotnej …

15 roc

1

Przypadkowy problem z parametrem

Zawsze staram się uzyskać prawdziwą istotę problemu dotyczącego parametrów przypadkowych. Kilkakrotnie czytałem, że estymatory efektów stałych modeli danych nieliniowych paneli mogą być poważnie tendencyjne z powodu „dobrze znanego” problemu parametrów przypadkowych. Kiedy proszę o jasne wyjaśnienie tego problemu, typowa odpowiedź brzmi: Załóżmy, że dane panelu obejmują N pojedynczych osób w …

15 nonlinear-regression fixed-effects-model bias

2

Jak aktualizowane są wagi w metodzie uczenia wsadowego w sieciach neuronowych?

Czy ktoś może mi powiedzieć, jak mam zbudować sieć neuronową przy użyciu metody wsadowej? Przeczytałem, że w trybie wsadowym dla wszystkich próbek w zestawie treningowym obliczamy błąd, deltę, a tym samym wagi delta dla każdego neuronu w sieci, a następnie zamiast natychmiastowej aktualizacji wag, kumulujemy je, a następnie przed rozpoczęciem …

15 machine-learning neural-networks

3

Metryki do oceny algorytmów rankingowych

Chciałbym przyjrzeć się kilku różnym wskaźnikom algorytmów rankingowych - kilka z nich znajduje się na stronie Wikipedii Uczenie się rangowania, w tym: • Średnia średnia precyzja (MAP); • DCG i NDCG; • Precision @ n, NDCG @ n, gdzie „@n” oznacza, że metryki są oceniane tylko na górnych n dokumentach; …

15 algorithms ranking

1

W tym warunki interakcji w losowym lesie

Załóżmy, że mamy odpowiedź Y i predyktory X1, ...., Xn. Gdybyśmy spróbowali dopasować Y za pomocą liniowego modelu X1, ...., Xn, i tak się po prostu stało, że prawdziwy związek między Y i X1, ..., Xn nie był liniowy, moglibyśmy naprawić model, przekształcając jakoś X, a następnie dopasowując model. Co …

15 machine-learning random-forest

1

Co to jest „Docelowe oczekiwane maksymalne prawdopodobieństwo”?

Próbuję zrozumieć niektóre artykuły Marka van der Laana. Jest teoretycznym statystykiem w Berkeley, pracującym nad problemami, które w znacznym stopniu pokrywają się z uczeniem maszynowym. Jednym z problemów dla mnie (poza głęboką matematyką) jest to, że często kończy się opisywaniem znanych metod uczenia maszynowego przy użyciu zupełnie innej terminologii. Jedną …

15 mathematical-statistics estimation nonparametric autocorrelation censoring

2

Jaka jest definicja dokładności Top-n?

Czytam artykuł naukowy na temat klasyfikacji obrazów. W wynikach eksperymentów mówią o dokładności 1 i 5, ale nigdy nie słyszałem o tym terminie, ani nie mogę go znaleźć za pomocą Google. Czy ktoś może podać mi definicję lub wskazać gdzieś? :)

15 machine-learning

4

Które zmienne wyjaśniają, które komponenty PCA i odwrotnie?

Korzystanie z tych danych: head(USArrests) nrow(USArrests) Mogę zrobić PCA w następujący sposób: plot(USArrests) otherPCA <- princomp(USArrests) Mogę pobrać nowe komponenty otherPCA$scores oraz odsetek wariancji wyjaśniony przez składniki z summary(otherPCA) Ale co jeśli chcę wiedzieć, które zmienne są w większości wyjaśnione przez które główne składniki? I odwrotnie: czy np. PC1 lub …

15 r pca dimensionality-reduction regression-strategies