Z technicznego punktu widzenia, dlaczego procesy w Erlangu są bardziej wydajne niż wątki systemu operacyjnego?

Charakterystyka Erlanga

Z Erlang Programming (2009):

Współbieżność Erlang jest szybka i skalowalna. Jego procesy są lekkie, ponieważ maszyna wirtualna Erlang nie tworzy wątku systemu operacyjnego dla każdego utworzonego procesu. Są tworzone, planowane i obsługiwane na maszynie wirtualnej niezależnie od bazowego systemu operacyjnego. W rezultacie czas tworzenia procesu jest rzędu mikrosekund i jest niezależny od liczby równolegle istniejących procesów. Porównaj to z Javą i C #, gdzie dla każdego procesu tworzony jest podstawowy wątek systemu operacyjnego: otrzymasz bardzo konkurencyjne porównania, z Erlangiem znacznie przewyższającym oba języki.

Z programowania współbieżnego w Erlang (pdf) (slajdy) (2003):

Obserwujemy, że czas potrzebny do stworzenia procesu Erlanga jest stały 1 µs do 2500 procesów; następnie wzrasta do około 3 µs do 30 000 procesów. Wydajność Java i C # jest pokazana u góry rysunku. W przypadku niewielkiej liczby procesów utworzenie procesu zajmuje około 300 µs. Stworzenie ponad dwóch tysięcy procesów jest niemożliwe.

Widzimy, że dla maksymalnie 30 000 procesów czas wysłania wiadomości między dwoma procesami Erlanga wynosi około 0,8 µs. W przypadku C # zajmuje to około 50 µs na wiadomość, aż do maksymalnej liczby procesów (czyli około 1800 procesów). Java była jeszcze gorsza, do 100 procesów zajmowało około 50 µs na wiadomość, po czym gwałtownie wzrosła do 10 ms na wiadomość, gdy było około 1000 procesów Java.

Moje myśli

Nie do końca rozumiem technicznie, dlaczego procesy Erlanga są o wiele bardziej wydajne w tworzeniu nowych procesów i mają znacznie mniejsze zużycie pamięci na proces. Zarówno system operacyjny, jak i maszyna wirtualna Erlang muszą wykonywać harmonogramy, przełączać konteksty, śledzić wartości w rejestrach i tak dalej ...

Dlaczego po prostu wątki systemu operacyjnego nie są implementowane w taki sam sposób, jak procesy w Erlang? Czy muszą wspierać coś więcej? Dlaczego potrzebują większej ilości pamięci? I dlaczego mają wolniejsze tarło i komunikację?

Technicznie, dlaczego procesy w Erlangu są wydajniejsze niż wątki systemu operacyjnego, jeśli chodzi o tworzenie i komunikację? I dlaczego nie można wdrażać i zarządzać wątkami w systemie operacyjnym w ten sam skuteczny sposób? I dlaczego wątki systemu operacyjnego mają większy ślad pamięci oraz wolniejsze tworzenie i komunikację?

Więcej czytania

• Wewnątrz maszyny wirtualnej Erlang ze szczególnym uwzględnieniem SMP (2008)
• Współbieżność w Javie i Erlangu (pdf) (2004)
• Pomiary wydajności wątków w Javie i procesów w Erlang (1998)

Istnieje kilka czynników przyczyniających się do tego:

1. Procesy Erlang nie są procesami systemu operacyjnego. Są one implementowane przez maszynę wirtualną Erlang przy użyciu lekkiego modelu kooperacyjnego wątkowania (wywłaszczającego na poziomie Erlanga, ale pod kontrolą wspólnie zaplanowanego środowiska wykonawczego). Oznacza to, że przełączanie kontekstu jest znacznie tańsze, ponieważ przełączają się tylko w znanych, kontrolowanych punktach i dlatego nie muszą zapisywać całego stanu procesora (rejestry normalne, rejestry SSE i FPU, mapowanie przestrzeni adresowej itp.).
2. Procesy Erlang używają dynamicznie alokowanych stosów, które na początku są bardzo małe i rosną w razie potrzeby. Pozwala to na powstanie wielu tysięcy - a nawet milionów - procesów Erlang bez pochłaniania całej dostępnej pamięci RAM.
3. Erlang był kiedyś jednowątkowy, co oznacza, że ​​nie było wymogu zapewnienia bezpieczeństwa wątków między procesami. Obsługuje teraz SMP, ale interakcja między procesami Erlang w tym samym harmonogramie / rdzeniu jest nadal bardzo lekka (istnieją oddzielne kolejki uruchomień na rdzeń).

Po dalszych poszukiwaniach znalazłem prezentację autorstwa Joe Armstronga.

Z Erlang - oprogramowanie do współbieżnego świata (prezentacja) (po 13 min):

[Erlang] jest językiem współbieżnym - rozumiem przez to, że wątki są częścią języka programowania, nie należą do systemu operacyjnego. To naprawdę jest nie tak w językach programowania, takich jak Java i C ++. Jego wątki nie są w języku programowania, wątki są czymś w systemie operacyjnym - i dziedziczą wszystkie problemy, które mają w systemie operacyjnym. Jednym z problemów jest ziarnistość systemu zarządzania pamięcią. Zarządzanie pamięcią w systemie operacyjnym chroni całe strony pamięci, więc najmniejszy rozmiar, jaki może mieć wątek, to najmniejszy rozmiar strony. To właściwie za duże.

Jeśli dodasz więcej pamięci do swojej maszyny - masz taką samą liczbę bitów, która chroni pamięć, więc ziarnistość tablic stron rośnie - w końcu używasz powiedzmy 64kB dla procesu, który znasz, działający w kilkuset bajtach.

Myślę, że odpowiada, jeśli nie na wszystkie, przynajmniej na kilka moich pytań

Zaimplementowałem programy w asemblerze i zmierzyłem wydajność.

Przełączanie między programami, zwanymi procesami Erlanga, zajmuje około 16 instrukcji i 20 nanosekund na nowoczesnym procesorze. Ponadto często znasz proces, na który się przełączasz (przykład: proces odbierający wiadomość w swojej kolejce może być zaimplementowany jako bezpośrednie przekazanie z procesu wywołującego do procesu odbierającego), więc harmonogram nie wchodzi w grę, jest to operacja O (1).

Zmiana wątków systemu operacyjnego zajmuje około 500-1000 nanosekund, ponieważ wywołujesz jądro. Harmonogram wątków systemu operacyjnego może działać w czasie O (log (n)) lub O (log (log (n))), co zacznie być zauważalne, jeśli masz dziesiątki tysięcy, a nawet miliony wątków.

Dlatego procesy Erlang są szybsze i lepiej skalowalne, ponieważ zarówno podstawowa operacja przełączania jest szybsza, jak i program planujący działa rzadziej.

Procesy Erlang odpowiadają (w przybliżeniu) zielonym wątkom w innych językach; nie ma wymuszonej przez system operacyjny separacji między procesami. (Może istnieć separacja wymuszona językiem, ale jest to mniejsza ochrona, mimo że Erlang wykonuje lepszą pracę niż większość.) Ponieważ są o wiele lżejsze, mogą być używane znacznie szerzej.

Z drugiej strony wątki systemu operacyjnego można po prostu zaplanować na różnych rdzeniach procesora i (w większości) są w stanie obsługiwać niezależne przetwarzanie związane z procesorem. Procesy systemu operacyjnego są podobne do wątków systemu operacyjnego, ale z dużo silniejszą separacją wymuszaną przez system operacyjny. Ceną tych możliwości jest to, że wątki systemu operacyjnego i (a tym bardziej) procesy są droższe.

Innym sposobem zrozumienia różnicy jest to. Przypuśćmy, że zamierzasz napisać implementację Erlanga w górnej części JVM (nie jest to szczególnie szalona sugestia), wtedy każdy proces Erlanga będzie obiektem z pewnym stanem. Miałbyś wtedy pulę wystąpień Thread (zwykle o rozmiarze odpowiadającym liczbie rdzeni w systemie hosta; to jest dostrajalny parametr w rzeczywistych środowiskach wykonawczych Erlang), które uruchamiają procesy Erlang. To z kolei spowoduje rozłożenie pracy, która ma zostać wykonana, na rzeczywiste dostępne zasoby systemowe. To całkiem zgrabny sposób robienia rzeczy, ale całkowicie polegafakt, że każdy indywidualny proces Erlanga nie robi wiele. To jest w porządku, oczywiście; Erlang jest tak skonstruowany, że nie wymaga, aby te indywidualne procesy były ciężkie, ponieważ to cały ich zespół wykonuje program.

Pod wieloma względami prawdziwym problemem jest terminologia. Rzeczy, które Erlang nazywa procesami (i które silnie korespondują z tą samą koncepcją w CSP, CCS, a zwłaszcza w rachunku π), po prostu nie są tym samym, co języki z dziedzictwem C (w tym C ++, Java, C # i wiele innych) wywołują proces lub wątek. Istnieją pewne podobieństwa (wszystkie wiążą się z pojęciem równoczesnego wykonywania), ale na pewno nie ma równoważności. Dlatego bądź ostrożny, gdy ktoś mówi do ciebie „proces”; mogą zrozumieć, że oznacza to coś zupełnie innego…

Myślę, że Jonas chciał uzyskać kilka liczb dotyczących porównania wątków systemu operacyjnego z procesami Erlanga. Autor programu Programming Erlang, Joe Armstrong, jakiś czas temu testował skalowalność tworzenia procesów Erlang w wątkach systemu operacyjnego. Napisał prosty serwer WWW w Erlang i przetestował go na wielowątkowym Apache (ponieważ Apache używa wątków OS). Istnieje stara strona internetowa z danymi sięgającymi 1998 roku. Tylko raz udało mi się znaleźć tę witrynę. Więc nie mogę podać linku. Ale informacje tam są. Główny punkt badania wykazał, że Apache osiągnął maksymalny poziom prawie 8K procesów, podczas gdy jego ręcznie napisany serwer Erlang obsłużył ponad 10 000 procesów.

Ponieważ tłumacz Erlang musi martwić się tylko o siebie, system operacyjny ma wiele innych powodów do zmartwień.

Jednym z powodów jest to, że proces erlang jest tworzony nie w systemie operacyjnym, ale w evm (wirtualna maszyna erlang), więc koszt jest mniejszy.