Matematyk chce równoważnej wiedzy do stopnia statystyki jakości


77

Wiem, że ludzie uwielbiają zamknąć duplikaty, więc jestem nie z prośbą o odniesienie się rozpocząć statystyki nauki (jak tutaj ).

Mam doktorat z matematyki, ale nigdy nie uczyłem się statystyki. Jaka jest najkrótsza droga do równoważnej wiedzy do najwyższego stopnia statystyki BS i jak mam zmierzyć, kiedy to osiągnęłam.

Jeśli wystarczyłaby lista książek (powiedzmy, że wykonuję ćwiczenia), to wspaniałe. Tak, spodziewam się, że rozwiązywanie problemów będzie domyślną częścią uczenia się tego, ale chcę przyspieszyć jak najbardziej realistycznie. Nie szukam szalenie rygorystycznego traktowania, chyba że jest to część tego, czego na ogół uczą się główne statystyki.


1
jaką dziedzinę matematyki otrzymałeś doktorat? To może być istotne.
mpiktas

7
Czy możesz podzielić się z nami, dlaczego chcesz poznać statystyki? Ciekawość? Potrzebujesz projektu lub badania? Chcesz zmienić pracę? Chcesz uczyć niektórych kursów? Chcesz współpracować ze statystykami jako osoba teoretyczna?
whuber

5
Myślę, że prawie zawsze ważne jest również rozwijanie specjalistycznej wiedzy w danej dziedzinie. Wiele statystyk uczy się modeli odpowiednich dla określonych dziedzin.
Tristan

10
Spróbuj odwrócić „statystyka potrzebuje równoważnej wiedzy do jakości matematycznej” - prawdopodobnie nie będzie szybkich tras.
probabilislogiczny

1
„Wiem, że ludzie uwielbiają zamykać duplikaty” rozśmieszyło mnie.
Mustafa S Eisa,

Odpowiedzi:


77

(Bardzo) krótka historia

Krótko mówiąc, w pewnym sensie statystyki są jak każda inna dziedzina techniki: nie ma szybkiej ścieżki .

Długa historia

Studia licencjackie w dziedzinie statystyki są stosunkowo rzadkie w Stanach Zjednoczonych. Jednym z powodów, dla których uważam, że to prawda, jest to, że dość trudno jest spakować wszystko, co jest konieczne, aby uczyć się statystyki dobrze w programie studiów licencjackich. Dotyczy to szczególnie uniwersytetów, które mają istotne wymagania w zakresie kształcenia ogólnego.

Rozwijanie niezbędnych umiejętności (matematycznych, obliczeniowych i intuicyjnych) wymaga dużo wysiłku i czasu. Statystyki można zacząć rozumieć na dość przyzwoitym poziomie „operacyjnym”, gdy uczeń opanuje rachunek różniczkowy i przyzwoitą ilość algebry liniowej i macierzowej. Jednak każdy zastosowany statystyk wie, że dość łatwo jest znaleźć się na terytorium, które nie jest zgodne z programem do cięcia plików cookie lub opartym na przepisach podejściem do statystyki. Prawdziwe zrozumienie tego, co dzieje się pod powierzchnią, wymaga jako warunek wstępnydojrzałość matematyczna i, w dzisiejszym świecie, obliczeniowa dojrzałość, które są naprawdę osiągalne dopiero w późniejszych latach kształcenia na poziomie licencjackim. Jest to jeden z powodów, dla których prawdziwe szkolenie statystyczne rozpoczyna się głównie na poziomie stwardnienia rozsianego w USA (Indie, z ich dedykowanym ISI to trochę inna historia. Podobny argument można wysunąć na temat edukacji opartej na Kanadzie. Nie jestem wystarczająco zaznajomiony z Edukacja statystyczna licencjackich szkół europejskich lub rosyjskich w celu uzyskania świadomej opinii).

Prawie każda (interesująca) praca wymagałaby wykształcenia na poziomie MS, a naprawdę interesujące (moim zdaniem) prace zasadniczo wymagają wykształcenia na poziomie doktora.

Ponieważ masz doktorat z matematyki, choć nie wiemy w jakiej dziedzinie, oto moje sugestie dotyczące czegoś bliższego edukacji na poziomie stwardnienia rozsianego. Dołączam uwagi w nawiasach, aby wyjaśnić wybór.

  1. D. Huff, Jak kłamać ze statystykami . (Bardzo szybki, łatwy do odczytania. Pokazuje wiele pojęć koncepcyjnych i pułapek, w szczególności przy przedstawianiu statystyk laikowi.)
  2. Mood, Graybill i Boes, Introduction to Theory of Statistics , 3rd ed., 1974. (Wprowadzenie do statystyki teoretycznej na poziomie MS. Dowiesz się o rozkładach próbkowania, estymacji punktowej i testowaniu hipotez w klasycznym, częstym systemie. Mój opinia jest taka, że ​​jest to na ogół lepsze i nieco bardziej zaawansowane niż współczesne odpowiedniki, takie jak Casella i Berger lub Rice.)
  3. Seber & Lee, Linear Regression Analysis , 2. wyd. (Przedstawia teorię estymacji punktów i testowania hipotez dla modeli liniowych, co jest prawdopodobnie najważniejszym tematem do zrozumienia w zastosowanych statystykach. Ponieważ prawdopodobnie masz dobre tło algebry liniowej, powinieneś być w stanie natychmiast zrozumieć, co dzieje się geometrycznie , który zapewnia wiele intuicji. Ma również dobre informacje związane z kwestiami oceny w wyborze modelu, odstępstw od założeń, prognoz i solidnych wersji modeli liniowych).
  4. Hastie, Tibshirani i Friedman, Elements of Statistics Learning , 2nd ed., 2009. (Ta książka ma znacznie bardziej praktyczne zastosowanie niż poprzednia i ogólnie obejmuje wiele współczesnych tematów uczenia maszynowego. Główny wkład ma tutaj zapewnienie interpretacji statystycznych wielu pomysłów na uczenie maszynowe, które opłaca się w szczególności w obliczaniu niepewności w takich modelach. Jest to coś, co zwykle nie jest omawiane w typowych książkach o uczeniu maszynowym. Tutaj legalnie dostępne za darmo .)
  5. A. Agresti, Categorical Data Analysis , wyd. 2 (Dobra prezentacja sposobu postępowania z dyskretnymi danymi w ramach statystycznych. Dobra teoria i dobre przykłady praktyczne. Być może pod pewnymi względami tradycyjna.)
  6. Boyd i Vandenberghe, Optymalizacja wypukła . (Wiele najpopularniejszych współczesnych problemów z estymacją statystyczną i testowaniem hipotez można sformułować jako wypukłe problemy z optymalizacją. Dotyczy to również wielu technik uczenia maszynowego, np. Maszyn wirtualnych. Mając szersze zrozumienie i zdolność rozpoznawania takich problemów, jak programy wypukłe wydaje mi się, że jest bardzo cenny. Tutaj legalnie dostępny za darmo .)
  7. Efron i Tibshirani, Wprowadzenie do paska startowego . (Powinieneś przynajmniej znać pasek startowy i powiązane techniki. W przypadku podręcznika jest to szybki i łatwy do przeczytania).
  8. J. Liu, Monte Carlo Strategies in Scientific Computing lub P. Glasserman, Monte Carlo Methods in Financial Engineering . (To ostatnie wydaje się być bardzo ukierunkowane na konkretny obszar zastosowań, ale myślę, że da dobry przegląd i praktyczne przykłady wszystkich najważniejszych technik. Zastosowania inżynierii finansowej doprowadziły do ​​sporej liczby badań Monte Carlo w ciągu ostatniej dekady .)
  9. E. Tufte, Wizualne wyświetlanie informacji ilościowych . (Dobra wizualizacja i prezentacja danych jest [wysoce] niedoceniana, nawet przez statystyk.)
  10. J. Tukey, Analiza danych eksploracyjnych . (Standardowo. Staruszek, ale skarbie. Niektórzy mogą powiedzieć, że są przestarzałe, ale nadal warto na nie spojrzeć.)

Uzupełnienia

Oto kilka innych książek, w większości nieco bardziej zaawansowanych, teoretycznych i / lub pomocniczych, które są pomocne.

  1. FA Graybill, teoria i zastosowanie modelu liniowego . (Staroświecki, straszny skład, ale obejmuje cały ten sam teren Seber & Lee itp.) Mówię staroświecki, ponieważ bardziej nowoczesne metody leczenia prawdopodobnie wykorzystywałyby SVD do ujednolicenia i uproszczenia wielu technik i dowodów.)
  2. FA Graybill, Matryce z aplikacjami w statystyce . (Tekst dodatkowy do powyższego. Bogactwo dobrych wyników algebry macierzowej przydatnych tutaj w statystykach. Świetne źródło informacji).
  3. Devroye, Gyorfi i Lugosi, Probabilistyczna teoria rozpoznawania wzorów . (Rygorystyczny i teoretyczny tekst na temat kwantyfikacji wydajności w problemach klasyfikacyjnych.)
  4. Brockwell i Davis, Szeregi czasowe: teoria i metody . (Klasyczna analiza szeregów czasowych. Traktowanie teoretyczne. W przypadku bardziej zastosowanych teksty Box, Jenkins i Reinsel lub Ruey Tsay są przyzwoite.)
  5. Motwani i Raghavan, Randomized Algorytmy . (Metody probabilistyczne i analiza dla algorytmów obliczeniowych.)
  6. D. Williams, Prawdopodobieństwo i Martingales i / lub R. Durrett, Prawdopodobieństwo: teoria i przykłady . (W przypadku, gdy widziałeś teorię miary, powiedzmy, na poziomie DL Cohna, ale może nie teorię prawdopodobieństwa. Oba są dobre do szybkiego przyspieszenia, jeśli już znasz teorię miary.)
  7. F. Harrell, Strategie modelowania regresji . (Nie tak dobry jak elementy uczenia statystycznego [ESL], ale ma inne i interesujące podejście. Obejmuje bardziej „tradycyjne” tematy statystyki stosowanej niż ESL i na pewno warto o tym wiedzieć).

Bardziej zaawansowane teksty (na poziomie doktoratu)

  1. Lehmann i Casella, Theory of Point Estimation . (Traktowanie estymacji punktów na poziomie doktora. Częścią wyzwania tej książki jest przeczytanie jej i ustalenie, co jest literówką, a co nie. Gdy zobaczysz, jak szybko je rozpoznajesz, zrozumiesz, że rozumiesz. Jest mnóstwo praktyki tego typu tam, szczególnie jeśli nurkujesz w problemach).

  2. Lehmann i Romano, Testowanie hipotez statystycznych . (Leczenie testowania hipotez na poziomie doktora. Nie tak wiele literówek jak TPE powyżej.)

  3. A. van der Vaart, Statystyka asymetryczna . (Piękna książka o asymptotycznej teorii statystyki z dobrymi wskazówkami na temat obszarów zastosowania. Nie jest to jednak książka stosowana. Moją jedyną sprzeczką jest to, że używa się dość dziwnej notacji, a szczegóły są czasami szczotkowane pod dywan.)


1
@ kardynał, byłe radzieckie uniwersytety mają oddzielne studia statystyczne na studiach licencjackich. Na przykład na uniwersytecie w Wilnie można uzyskać licencjat z statystyki. Z tego, co widzę z uczniami, całym sercem zgadzam się, że do ciekawych prac potrzebna jest edukacja magisterska, a nawet doktorancka.
mpiktas

1
@cardinal, @mpiktas 4 lata w BS + 2 lata w stwardnieniu rozsianym + 4 lata w doktoracie to dziesięć lat, aby nauczyć się czegoś interesującego :) Dałbym tej wspaniałej odpowiedzi, jeśli to możliwe. Większość książek jest dla mnie nowa. +
Dmitrij Celov

2
@John Salvatier, masz rację, że te metody nie są omówione w tym tekście. Z drugiej strony wydaje mi się to bardziej kwestią gustu, zwłaszcza że tekst nie skupia się na algorytmach. To znaczy, twoje obawy zostały bezpośrednio poruszone przez autorów we wstępie (str. 13).
kardynał

2
@cardinal: Skandynawskie uniwersytety zazwyczaj oferują również studia licencjackie. Biorąc to pod uwagę, myślę, że statystycy traktują siebie zbyt poważnie. Nie zgadzam się, że potrzebujesz doktoratu, aby uzyskać „interesującą” pracę. Uważam, że w miarę jak nauka i badania stają się coraz bardziej interdyscyplinarne, statystyki nakładane są na badania z wielu różnych dziedzin. Połowa artykułów w czasopismach o dużym wpływie zawiera wątpliwą analizę statystyczną, aby sprostać wymaganiom, nawet jeśli nie ma to sensu, zważywszy na pierwotny kontekst / dziedzinę problemu.
posdef

1
Książka @cardinal Mood była świetną sugestią, ponieważ w dzisiejszych czasach trudno jest znaleźć książkę wprowadzającą na temat statystyki, która jest wystarczająco formalna dla kogoś z wykształceniem matematycznym. Czy ktoś przeczytał tę książkę nową książkę? Panateros, „Statystyka dla matematyków” springer.com/us/book/9783319283395
Igor Fobia,

11

Nie mogę wypowiadać się w przypadku bardziej rygorystycznych szkół, ale robię licencjat z statystyki ogólnej (najbardziej rygorystyczny w mojej szkole) na University of California w Davis, i dość duża zależność od dyscypliny i wyprowadzania. Doktorat z matematyki będzie pomocny, ponieważ będziesz miał bardzo silne doświadczenie w prawdziwej analizie i algebrze liniowej - przydatne umiejętności w statystyce. W moim programie statystycznym około 50% zajęć ma wspierać podstawy (algebra liniowa, analiza rzeczywista, rachunek różniczkowy, prawdopodobieństwo, oszacowanie), a pozostałe 50% idzie na specjalistyczne tematy, które opierają się na podstawach (nieparametryczne, obliczenia, ANOVA / Regresja, szeregi czasowe, analiza bayesowska).
Gdy zdobędziesz podstawy, przeskoczenie do szczegółów nie jest zwykle zbyt trudne. Większość osób w moich klasach boryka się z dowodami i prawdziwą analizą i z łatwością chwyta pojęcia statystyczne, więc pochodzenie z matematyki z pewnością pomoże. Biorąc to pod uwagę, następujące dwa teksty zawierają całkiem dobre omówienie wielu tematów objętych statystykami. Nawiasem mówiąc, oba były zalecane w podanym przez ciebie linku, więc nie powiedziałbym, że twoje pytanie i to, które podłączyłeś, jest koniecznie nieskorelowane.

Matematyczne metody statystyki , Harald Cramer

Wszystkie statystyki: zwięzły kurs wnioskowania statystycznego , autorstwa Larry'ego Wassermana


3
+1 Wszystkie statystyki: byłoby to świetne miejsce na rozpoczęcie.
Simon Byrne

1
program UC-Davis wygląda dobrze i myślę, że dostaniesz tam świetne wykształcenie. Nie uważałbym tego za „mniej rygorystyczne” niż w innych miejscach. Myślałem, że komentarz na ich „Zintegrowany BS / MS stopni” stronie było interesujące i istotne dla wątku: „Istnieje duże zapotrzebowanie na statystyków, ale wiedza i umiejętności osiągnięty przez tych ze stopniem śniadaniem Statistics często nie są wystarczające dla potrzeby w miejscu pracy [rządowym lub przemysłowym] ”.
kardynał

9

Królewskie Towarzystwo Statystyczne w Wielkiej Brytanii oferuje dyplom ukończenia studiów statystycznych na poziomie dobrego licencjata. Program nauczania, lista lektur i poprzednie artykuły są dostępne na ich stronie internetowej . Wiem, że matematycy używają go do przyspieszania statystyki. Zdawanie egzaminów (oficjalnie lub w zaciszu własnego gabinetu) może być przydatnym sposobem pomiaru, kiedy tam jesteś.


3
Egzaminy dyplomowe są faktycznie egzaminami licencjackimi z ostatniego roku; do celów „przemieszczania się” najpierw należy pobrać certyfikaty niższego poziomu. Egzaminy RSS są dostępne, o ile dobrze pamiętam, na całym świecie, z wyjątkiem Hongkongu (który ma własne towarzystwo statystyczne i egzaminy). Alternatywą jest licencjat z zakresu statystyki oferowany przez kształcenie na odległość przez Open University w Wielkiej Brytanii, ale ponownie dostępny na całym świecie. Jest to poziom nieco niższy niż RSS Grad Dip, więc może być postrzegany jako przygotowanie do niego. Jako nauczany kurs jest znacznie droższy.
Silverfish,

5

Odwiedzałbym strony z programami nauczania najlepszych szkół statystycznych, zapisywałam książki, których używają na swoich kursach licencjackich, sprawdzał, które są wysoko oceniane w Amazon, i zamawiałam je w bibliotece publicznej / uniwersyteckiej.

Niektóre szkoły do ​​rozważenia:

Uzupełnij teksty o różne witryny wideo z wykładami, takie jak MIT OCW i videolectures.net.

Caltech nie ma stopnia licencjata w statystyce, ale nie popełnisz błędu, postępując zgodnie z programem nauczania ich kursów statystyki licencjackiej.


1
to wydaje się trochę dziwna lista. Według mojej wiedzy Carnegie Mellon jest jedyną szkołą na tej liście, która (formalnie) oferuje licencjat z statystyki. Ani Caltech, ani MIT nie mają nawet programów magisterskich ze statystyki.
kardynał

@kardynał. dlaczego musisz w to wątpić? :) Zamieszczam linki do kursów statystyki licencjackiej w tych wspaniałych instytucjach. Również mieszanie i dopasowywanie kursów z najlepszych szkół będzie wybijać się po ścieżce dyplomowej z gorszej szkoły.
Neil McGuigan

2
OCW jest z pewnością bardzo dobrym zasobem i świetną inicjatywą. Nie ma co do tego wątpliwości. Co do twojego twierdzenia, że ​​mieszanie i łączenie z „najlepszych szkół” jest lepszym rozwiązaniem, uważam to za wysoce podejrzane, szczególnie w przypadku studiów licencjackich. Podczas gdy wysoce zmotywowany uczeń jest zobowiązany do uzyskania bardzo dobrej edukacji licencjackiej w którejkolwiek z tych szkół, taką samą lub lepszą edukację można znaleźć w wielu „gorszych” szkołach. Powiedziałbym, że szkoły takie jak te, które wymieniasz, zazwyczaj „wygrywają” dla absolwentów.
kardynał

2
Właściwie to była pierwsza rzecz, której spróbowałem. Próbowałem tego przed opublikowaniem pytania. Znalezienie listy kursów nie było trudne, ale znalezienie informacji o tym, które książki faktycznie wykorzystano na te kursy i które sekcje tych książek były omawiane, było znacznie trudniejsze.
John Robertson

3

Widziałem Wnioskowanie statystyczne, autorstwa Silveya, używane przez matematyków, którzy potrzebowali pewnego dnia opanowania statystyki. To mała książka, która z pewnością powinna być tania. Patrząc na http://www.amazon.com/Statistic-Inference-Monographs-Statistics-Probability/dp/0412138204/ref=sr_1_1?ie=UTF8&s=books&qid=1298750064&sr=1-1 , wydaje się być tani z drugiej ręki.

Jest stary i koncentruje się na klasycznych statystykach. Chociaż nie jest wysoce abstrakcyjny, jest przeznaczony dla dość matematycznej publiczności - wiele ćwiczeń pochodzi z Cambridge (UK) Diploma in Mathematical Statistics, który jest w zasadzie magistrem.


3

Jeśli chodzi o pomiar swojej wiedzy: możesz wziąć udział w niektórych konkursach eksploracji / analizy danych, takich jak 1 , 2 , 3 , 4 , i zobaczyć, jak zdobywasz punkty w porównaniu do innych.

W odpowiedziach jest wiele wskazówek do podręczników dotyczących statystyki matematycznej. Chciałbym dodać jako odpowiednie tematy:

  • empiryczny element badań społecznych, który obejmuje teorię próbkowania, standardy społeczno-demograficzne i regionalne
  • zarządzanie danymi, które obejmuje wiedzę na temat baz danych (pisanie zapytań SQL, popularne schematy baz danych)
  • komunikacja, jak prezentować wyniki w taki sposób, aby odbiorca nie zasnął (metody wizualizacji)

Zastrzeżenie: Nie jestem statystykiem, to tylko moje 2 centy


3

ET. Nie mogę się doczekać rekomendacji dla częstych stron rzeczy (mam mnóstwo monografii, ale bardzo niewiele dobrych tekstów ogólnych).


3
Sugerowałbym, że to lektura obowiązkowa dla każdego, kto chce być dobrym statystykiem, częstym, bayesowskim lub kimkolwiek innym.
probabilityislogic

10
Nie zgadzam się, książka Jaynesa jest straszną rekomendacją w takich okolicznościach: 1) notacja jest niechlujna i niestandardowa, co utrudnia nawiązanie do innych źródeł, 2) jest od dawna rozwścieczony i grzęźnie w niemądrych i nieistotnych argumentach (OP poprosił o „najkrótszą trasę”) 3) są też błędy (takie jak paradoks marginalizacji)
Simon Byrne

1
@Dikran Marsupial, czy posiadasz tekst Schervisha na temat wnioskowania statystycznego? Zastanawiałem się, czy go kupić, czy nie, więc byłem ciekawy, ponieważ wydaje się, że dość mocno dostosowujesz się do podejścia bayesowskiego.
kardynał

1
Nie powiedziałbym, że jestem mocno powiązany z podejściem bayesowskim. To podejście najlepiej rozumiem, co nie jest tym samym. Zasadniczo jestem inżynierem i chcę, aby oba narzędzia w moim zestawie narzędzi były utrzymywane w porządku! Powinniśmy dążyć do właściwego zrozumienia korzyści i wad każdego podejścia. Nie mam książki Shervishesa, ale przeczytałem jego artykuł o czynnikach Bayesa, który wydawał mi się dość wadliwy (zobaczę, czy uda mi się go znaleźć i zadać pytanie, żeby ktoś mi to wyjaśnił!).
Dikran Torbacz

@Dikran, Twoje (potencjalne) pytanie brzmi interesująco. Czekam na post na ten temat.
kardynał

3

Pochodzę z informatyki, koncentrując się na uczeniu maszynowym. Jednak naprawdę zacząłem rozumieć (i ważniejsze do zastosowania) statystyki po ukończeniu kursu rozpoznawania wzorców za pomocą Bishop's Book https://www.microsoft.com/en-us/research/people/cmbishop/#!prml-book

Oto niektóre slajdy kursów z MIT:
http://www.ai.mit.edu/courses/6.867-f03/lectures.html

To da ci tylko tło (+ trochę kodu Matlaba) do użycia statystyk dla rzeczywistych problemów z pracą i jest zdecydowanie bardziej po stronie zastosowanej.

Jednak w dużej mierze zależy to od tego, co chcesz zrobić ze swoją wiedzą. Aby dowiedzieć się, na ile jesteś dobry, możesz przejrzeć otwarte artykuły niektórych uniwersytetów w celu uzyskania zaawansowanych statystyk, aby sprawdzić, czy znasz omawiane tematy. Tylko moje 5 centów.


1

Myślę, że Stanford zapewnia najlepsze zasoby, jeśli chodzi o elastyczność. Mają nawet kurs uczenia maszynowego online, który dostarczyłby ci solidną bazę wiedzy, jeśli chodzi o projektowanie algorytmów w R. Poszukaj go w Google, a przekieruje cię na stronę Lagunita, gdzie mają kilka interesujących kursów, większość oni są wolni. Mam książki Tibshirani, Wprowadzenie do uczenia statystycznego i Elementy uczenia statystycznego w formacie PDF i oba są niezwykle dobrymi zasobami.

Ponieważ jesteś matematykiem, nadal radziłbym ci nie przyspieszać, ponieważ nie zapewniłoby to solidnej podstawy, która może być bardzo pomocna w przyszłości, jeśli w ogóle zaczniesz poważnie uczyć się maszyn. Traktuj statystyki jako gałąź matematyki, aby uzyskać wgląd w dane, a to wymaga trochę pracy. Poza tym istnieje mnóstwo zasobów internetowych, Johns Hopkins zapewnia podobne rzeczy jak Stanford. Chociaż doświadczenie zawsze się opłaca, szanowana referencja zawsze wzmocni tę bazę. Możesz również pomyśleć o konkretnych polach, które chcesz wprowadzić; Rozumiem przez to, czy chcesz przejść do analizy tekstu, czy zastosować swoje umiejętności matematyczne i statystyczne w finansach. Pochodzę z tej drugiej kategorii, więc mam dyplom z ekonometrii, w którym studiowaliśmy finanse + statystykę. Kombinacja zawsze może być bardzo dobra.

Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.