Jak mam nagrywać na dyskach twardych?


41

Google przeprowadził bardzo dokładne badanie awarii dysków twardych, które wykazało, że znaczna część dysków twardych uległa awarii w ciągu pierwszych 3 miesięcy intensywnego użytkowania.

Razem z moimi współpracownikami myślimy, że moglibyśmy wdrożyć proces wypalania wszystkich naszych nowych dysków twardych, który mógłby potencjalnie zaoszczędzić nam bólu serca przed stratą czasu na nowych, niesprawdzonych dyskach. Ale zanim wdrożymy proces docierania, chcielibyśmy uzyskać wgląd od innych, którzy są bardziej doświadczeni:

  • Jak ważne jest nagrywanie na dysku twardym przed rozpoczęciem korzystania z niego?
  • Jak wdrożyć proces wypalania?
    • Jak długo palisz się na dysku twardym?
    • Jakiego oprogramowania używasz do nagrywania dysków?
  • Ile stresu jest za dużo dla procesu wypalania?

EDYCJA: Ze względu na charakter działalności RAID-y nie mogą być używane przez większość czasu. Musimy polegać na pojedynczych dyskach, które są często wysyłane pocztą w całym kraju. Tworzymy kopie zapasowe dysków tak szybko, jak to możliwe, ale wciąż napotykamy awarię tu i tam, zanim otrzymamy możliwość wykonania kopii zapasowej danych.

AKTUALIZACJA

Moja firma już od jakiegoś czasu wdrożyła proces wypalania i okazała się niezwykle przydatna. Natychmiast wypalamy wszystkie nowe dyski, które mamy w magazynie, co pozwala nam znaleźć wiele błędów przed wygaśnięciem gwarancji i przed zainstalowaniem ich w nowych systemach komputerowych. Przydatne okazało się również sprawdzenie, czy dysk się zepsuł. Gdy jeden z naszych komputerów zacznie napotykać błędy, a dysk twardy jest głównym podejrzanym, ponownie uruchomimy proces wypalania na tym dysku i sprawdzimy wszelkie błędy, aby upewnić się, że dysk rzeczywiście był problemem przed rozpoczęciem procesu RMA lub rzucaniem to w koszu.

Nasz proces wypalania jest prosty. Mamy wyznaczony system Ubuntu z dużą ilością portów SATA i uruchamiamy badblocks w trybie odczytu / zapisu z 4 przebiegami na każdym dysku. Aby uprościć sprawę, napisaliśmy skrypt, który wyświetla ostrzeżenie „DANE ZOSTANĄ USUNIĘTE ZE WSZYSTKICH DYSKÓW”, a następnie uruchamia błędne bloki na każdym dysku oprócz dysku systemowego.


15
Co ciekawe, dlaczego wysyłasz dyski pocztą w całym kraju? Wygląda na to, że bardziej prawdopodobne jest, że wpadniesz na awarię napędu w wyniku awarii szoku i ogólnego niewłaściwego obchodzenia się z usługą pocztową, niż z powodów wykrytych przez wypalenie.
Paperjam

6
@Lie Ryan: Sprzęt do przechowywania korespondencji jest nadal najszybszym sposobem przesyłania danych. Internet jest bardzo wolny, a jeśli musisz przejść przez sieci instytucjonalne i zapory ogniowe, staje się jeszcze gorzej.
Jonas

4
@Lie Ryan: Jeśli masz do czynienia z tajnymi tajnymi danymi rządowymi, SSH tego nie zrobi . Zasadniczo komputer zawierający te dane może nie być podłączony do publicznego Internetu. Jeśli masz gigabajty sklasyfikowanych danych do przesłania, wysłanie zaszyfrowanego dysku pocztą jest najbardziej wydajną opcją.
benzado

3
@Lie Ryan: Dokładnie. Nawet przy naprawdę szybkim połączeniu internetowym dostarczenie 7 TB zajmuje miesiąc (i to jest tak, jeśli masz luksus kontroli nad swoją i odbiorcą). W przypadku UPS 7 TB jest dostępne następnego dnia.
Jonas

5
To miłe i wszystko, z wyjątkiem sytuacji, gdy mobilne zespoły na drodze zbierają ogromne ilości danych. Oznacza to, że musisz polegać na hotelowym lub mobilnym połączeniu internetowym i nigdy nie będziesz w jednym miejscu dłużej niż 8 godzin.
Phil

Odpowiedzi:


36

Jak ważne jest nagrywanie na dysku twardym przed rozpoczęciem korzystania z niego?

Jeśli masz dobrą kopię zapasową i dobre systemy o wysokiej dostępności, to nie bardzo. Ponieważ przywracanie po awarii powinno być dość łatwe.

Jak wdrożyć proces wypalania? Jakiego oprogramowania używasz do nagrywania dysków? Ile stresu jest za dużo dla procesu wypalania?

Zwykle uruchamiam Badblocks na dysku lub nowym systemie, kiedy go otrzymam. Uruchomię go za każdym razem, gdy wskrzeszę komputer ze stosu części zamiennych. Polecenie takie jak to ( badblocks -c 2048 -sw /dev/sde) faktycznie zapisze do każdego bloku 4 razy za każdym razem z innym wzorem (0xaa, 0x55, 0xff, 0x00). Ten test nie służy do testowania wielu losowych odczytów / zapisów, ale powinien udowodnić, że każdy blok można również zapisać i odczytać.

Możesz także uruchomić bonnie ++ lub iometr, które są narzędziami do testów porównawczych. Powinny one nieco stresować twoje dyski. Dyski nie powinny zawieść, nawet jeśli spróbujesz je zmaksymalizować. Więc równie dobrze możesz spróbować zobaczyć, co mogą zrobić. Nie robię tego jednak. Uzyskiwanie testu porównawczego we / wy systemu pamięci masowej w momencie instalacji / konfiguracji może być bardzo przydatne w przyszłości, gdy przyjrzysz się problemom z wydajnością.

Jak długo palisz się na dysku twardym?

Moim zdaniem wystarczy jeden ciąg badblocków, ale uważam, że mam bardzo silny system tworzenia kopii zapasowych, a moje potrzeby w zakresie HA nie są tak wysokie. Mogę sobie pozwolić na przestoje w celu przywrócenia usługi w większości obsługiwanych systemów. Jeśli tak się martwisz, że uważasz, że może być wymagana konfiguracja wieloprzebiegowa, prawdopodobnie powinieneś mieć RAID, dobre kopie zapasowe i dobrą konfigurację HA.

Jeśli się spieszę, mogę pominąć wypalenie. Moje kopie zapasowe i RAID powinny być w porządku.


49

IMNSHO, nie powinieneś polegać na procesie wypalania w celu usunięcia uszkodzonych dysków i „ochrony” swoich danych. Opracowanie i wdrożenie tej procedury zajmie czas, który mógłby być lepiej wykorzystany w innym miejscu, a nawet jeśli dysk przejdzie wypalenie, może nadal zawieść miesiące później.

Powinieneś używać RAID i kopii zapasowych, aby chronić swoje dane. Gdy to będzie na miejscu, pozwól mu się martwić o dyski. Dobre kontrolery RAID i podsystemy pamięci masowej będą miały procesy „szorowania”, które co pewien czas przeglądają dane i zapewniają, że wszystko jest w porządku.

Gdy wszystko zostanie załatwione, nie ma potrzeby przeprowadzania czyszczenia dysku, chociaż jak wspomnieli inni, nie zaszkodzi wykonać test obciążenia systemu, aby upewnić się, że wszystko działa zgodnie z oczekiwaniami. W ogóle nie martwiłbym się o poszczególne dyski.


Jak wspomniano w komentarzach, używanie dysków twardych w konkretnym przypadku użycia nie ma większego sensu. Wysyłanie ich dookoła jest znacznie bardziej prawdopodobne, że spowoduje błędy danych, które nie będą występować po wypaleniu.

Nośniki taśm są przeznaczone do wysyłki. Możesz uzyskać 250 MB / s (lub skompresować do 650 MB / s) za pomocą pojedynczego dysku IBM TS1140, który powinien być szybszy niż dysk twardy. I jeszcze większy - pojedynczy wkład może dać ci do 4 TB (nieskompresowany).

Jeśli nie chcesz używać taśmy, użyj dysków SSD. Mogą być traktowane znacznie ostrzej niż dyski twarde i spełniają wszystkie dotychczasowe wymagania.


Po tym wszystkim oto moje odpowiedzi na twoje pytania:

  • Jak ważne jest nagrywanie na dysku twardym przed rozpoczęciem korzystania z niego?
    Ani trochę.
  • Jak wdrożyć proces wypalania?
    • Jak długo palisz się na dysku twardym?
      Jeden lub dwa przebiegi.
    • Jakiego oprogramowania używasz do nagrywania dysków?
      Prosty ciąg, powiedzmy shredi badblockszrobi. Sprawdź dane SMART później.
  • Ile stresu jest za dużo dla procesu wypalania?
    Brak stresu to za dużo. Powinieneś być w stanie rzucić wszystko na dysk bez wysadzenia.

1
Żałuję tylko tego postu, że mogę go głosować tylko raz. @Phil, tam ponownie wymyślasz koło. Sposobem na zapewnienie, że nie stracisz danych na losowe awarie dysków (lub innego pokrewnego sprzętu), są kopie zapasowe i macierze RAID.
Rob Moir,

8
Zgadzam się, że nie powinieneś na nim polegać, ale uruchomienie skanowania systemu przed jego uruchomieniem wykryło dla mnie potencjalny problem kilka razy. Jeśli nie spieszysz się zbytnio, pozwolenie, aby komputer sam skanował przez dzień lub dwa, zwykle niczego nie zaszkodzi.
Zoredache,

7
Ta odpowiedź ma najwyższą liczbę głosów, ale nie odpowiedziała najczęściej na pytanie. PO stwierdził, że RAID są niemożliwe. Jeśli „pojedyncze dyski są wysyłane pocztą w całym kraju”, nie można zbudować nalotu. Proces tworzenia kopii zapasowej jest na miejscu, ale wygląda na to, że OP chce znaleźć wszystko, aby zaoszczędzić czas na wypadek awarii dysku. (Uwaga: pracuję w tej samej firmie co OP, więc znam sytuację, dane są kopiowane do RAID po dostarczeniu) Jeśli MUSISZ wypalić dyski, hipotetycznie, jak byś to zrobił?
jsmith

3
W takim przypadku pytanie powinno zawierać ten kontekst. Z tego, co mówisz, powinno brzmieć: „Musimy wysyłać dyski twarde pocztą ślimakową / frachtem. Jak powinniśmy przeprowadzić test wypalenia przed wysyłką, aby zminimalizować awarie?” Co zabawne, odpowiedź się nie zmienia. Wyślij parę napędów! Lub lepiej, użyj taśm. Taśmy są zaprojektowane do użycia w ten sposób, a dyski twarde nie. Więcej informacji prowadzi do innej odpowiedzi.
MikeyB,

2
Taśmy nie mogą zapisywać danych tak szybko, jak dyski twarde? 250 MB / s (bez kompresji) nie jest dla Ciebie wystarczająco dobre? Powiedziałbym, że proces wypalania w rzeczywistości nie pomoże w ochronie przed awariami w twoim przypadku użycia.
MikeyB,

8

Biorąc pod uwagę twoje wyjaśnienie, nie wygląda na to, że jakikolwiek proces wypalenia byłby dla ciebie przydatny. Napędy ulegają awarii głównie z powodu czynników mechanicznych, zwykle ciepła i wibracji; nie z powodu jakiejkolwiek ukrytej bomby zegarowej. Proces „wypalenia” testuje środowisko instalacyjne tak samo, jak wszystko inne. Po przeniesieniu rzeczy wracasz do miejsca, w którym zacząłeś.

Ale oto kilka wskazówek, które mogą ci pomóc:

Dyski do laptopów są zwykle zaprojektowane tak, aby wytrzymywały bardziej wstrząsy i wibracje niż dyski do komputerów stacjonarnych. Z tego powodu moi przyjaciele, którzy pracują w sklepach z odzyskiwaniem danych, zawsze wysyłają dane do klientów na dyskach laptopów. Nigdy nie testowałem tego faktu, ale wydaje się, że jest to „powszechna wiedza” w wybranych branżach.

Dyski flash (np. Dyski USB) są najbardziej odporne na wstrząsy spośród wszystkich dostępnych nośników. Jeszcze mniej prawdopodobne jest, że stracisz przesyłane dane, jeśli korzystasz z Flash Media.

Jeśli wysyłasz dysk Winchester, wykonaj skanowanie powierzchni przed jego użyciem. Lub jeszcze lepiej, po prostu nie używaj go. Zamiast tego możesz wyznaczyć niektóre dyski jako dyski „wysyłkowe”, które widzą wszystkie nadużycia, ale na których nie polegasz w zakresie integralności danych. (Tj .: skopiuj dane na dysk w celu wysyłki, skopiuj po wysyłce, bardzo sumy kontrolne po obu stronach, tego typu rzeczy).


„Po przeniesieniu rzeczy wracasz do miejsca, w którym zacząłeś.” - nie prawda. tak wygląda wykres MTTF dla dysku: cs.cmu.edu/~bianca/fast/img13.png cs.ucla.edu/classes/spring09/cs111/scribe/16/… testy we wczesnym okresie mogą filtrować spośród wielu problematycznych napędów producenci faktycznie przeprowadzają te testy warunków skrajnych, aby stworzyć bardziej niezawodny produkt, ale oczywiście nie jest to opłacalne, dopóki wykres się nie wyrówna.
Karoly Horvath,

3
@yi_H: Myślę, że Tylerl sugeruje, że prawdopodobnie przyczyną wczesnej awarii jest sam proces wysyłki (co nie jest nieprawdopodobne, chciałbym zobaczyć wykres przedstawiający awarię dysku w stosunku do częstotliwości wysyłania), dlatego jeśli wysyłasz dysk twardy w całym kraju MTTF zostanie zresetowany; więc jeśli wysyłasz dysk co trzy miesiące, zawsze znajdujesz się w strefie wczesnej awarii.
Lie Ryan,

5

Twój proces jest zły. Powinieneś używać tablic rajdowych. Tam, gdzie pracuję, stworzyliśmy wzmocnione tablice rajdowe, które zostały zaprojektowane do transportu. To nie czarna magia. Wstrząs mocujący napędy w obudowach o dużych rozmiarach z dużymi gumowymi izolatorami drgań znacznie poprawi niezawodność. (Dyski Seagate gwiazdozbiory, są przykładowo oceniane na wstrząsy 300G, ale tylko wibracje 2G, nie działają: więc skrzynia transportowa musi izolować napęd od wibracji. Http://www.novibes.com/Products&productID=62 lub http : //www.novibes.com/Products&productId=49 [część # 50178])

Jednak naprawdę chcesz wypalić w testowych dyskach twardych, więc proszę bardzo.

Pracowałem na systemach takich jak dyski twarde i nagrywam, znalazłem pewne problemy, ale ...

W przypadku przyspieszonych testów cyklu życia płytek drukowanych w celu wykrycia usterek nic nie przebije niektórych cykli gorąca / zimna. (operowanie cyklami gorącego i zimnego działa jeszcze lepiej ... ale jest to trudniejsze, szczególnie w przypadku banków dysków twardych)

Zdobądź dużą komorę środowiskową na liczbę dysków, które nabywasz jednocześnie. (Są dość drogie, tańsze byłoby wysyłanie tablic rajdowych wokół). Nie można skąpić w komorach testowych, trzeba będzie kontrolować wilgotność i programowalne rampy.

Zaprogramuj w dwóch powtarzających się rampach temperatury, od minimalnej temperatury przechowywania, aż do maksymalnej temperatury przechowywania, aby rampy były wystarczająco strome, aby zdenerwować inżyniera aplikacji od producenta dysku twardego. 3 zimne i gorące cykle w ciągu 12 godzin powinny dość szybko doprowadzić do awarii dysków. Uruchom dyski przez co najmniej 12 godzin. Jeśli potem coś zadziała, będę zaskoczony.

Nie wymyśliłem tego: w jednym miejscu, w którym pracowałem, zrobił to inżynier produkcji, aby uzyskać więcej produktów wysyłanych z tym samym sprzętem testowym, nastąpił ogromny wzrost liczby błędów w testach, ale wskaźnik śmiertelności po przybyciu spadł do praktycznie zero.


5

Nie zgadzam się ze wszystkimi odpowiedziami, które w zasadzie mówią „Nie zawracaj sobie głowy wypalaniem, miej dobre kopie zapasowe”.

Chociaż zawsze powinieneś mieć kopie zapasowe, spędziłem wczoraj 9 godzin (oprócz mojej zwykłej 10-godzinnej zmiany), przywracając kopie zapasowe, ponieważ system działał z dyskami, które nie zostały wypalone.

W konfiguracji RAIDZ2 było 6 dysków (ZFS odpowiednik RAID-6) i mieliśmy 3 dyski umierające w ciągu 18 godzin na urządzeniu, które działało przez około 45 dni.

Najlepszym rozwiązaniem, jakie znalazłem, jest kupienie dysków od jednego konkretnego producenta (nie mieszaj i dopasowuj), a następnie uruchom dostarczone narzędzie do wykonywania dysków.

W naszym przypadku kupujemy Western Digital i używamy ich diagnostyki napędu opartej na systemie DOS z rozruchowego ISO. Odpalamy go, uruchamiamy opcję zapisywania losowych śmieci na cały dysk, a następnie uruchamiamy krótki test SMART, a następnie długi test SMART. Zazwyczaj wystarcza to do usunięcia wszystkich złych sektorów, przeniesień odczytu / zapisu itp.

Nadal próbuję znaleźć porządny sposób, aby go „wsadować”, aby móc go uruchomić na 8 dyskach jednocześnie. Może po prostu użyć „dd if = / dev / urandom of = / dev /okolwiek” w Linuksie lub „złych blokach”.

EDYCJA: Znalazłem lepszy sposób na „partię”. W końcu zacząłem konfigurować serwer rozruchowy PXE w naszej sieci, aby zaspokoić określoną potrzebę, i zauważyłem, że dysk CD Ultimate Boot można uruchomić z PXE. Mamy teraz garść niepotrzebnych maszyn, które można uruchomić za pomocą PXE w celu uruchomienia diagnostyki dysku.


3
Co wiesz? Odpowiedź, która odpowiada na pytanie i nie głosi w OP. +1
elBradford

3
Jeśli chcesz, aby losowe dane zapisywały się na dysku, nie czytaj z / dev / urandom; nie jest tak wolny jak jego blokujący kuzyn / dev / random, ale wciąż jest wolny i tak naprawdę nic ci nie zyskuje. Zamiast tego skonfiguruj zwykłe mapowanie dm-crypt z losowym kluczem (który możesz pobrać z / dev / urandom lub / dev / random), a następnie po prostu dd / dev / zero do zmapowanego urządzenia. Prawdopodobnie będzie gdzieś pomiędzy dwa razy szybszym a rzędem wielkości szybszym. gitlab.com/cryptsetup/cryptsetup/wikis/FrequentlyAskedQuestions „Jak wyczyścić urządzenie z przypadkowością klasy kryptograficznej?” ma przykład jak to zrobić.
CVn

Doskonała sugestia @ MichaelKjörling
Aaron C. de Bruyn

3

Jak ważne jest nagrywanie na dysku twardym przed rozpoczęciem korzystania z niego?

To zależy.
Jeśli używasz go w macierzy RAID zapewniającej redundancję (1, 5, 6, 10)? Nie bardzo.
Jeśli używasz go standaolone? Trochę, ale lepiej jest po prostu uruchomić smartd lub coś do monitorowania, a przynajmniej moim zdaniem.

To naturalnie prowadzi do mojej odpowiedzi na „ Jak wdrożyć proces wypalania? ” - ja nie.
Zamiast próbować „wypalać” dyski, uruchamiam je w redundantnych parach i korzystam z monitorowania predykcyjnego (takiego jak SMART), aby powiedzieć mi, kiedy dysk zaczyna się mętnieć. Przekonałem się, że dodatkowy czas wymagany do pełnego wypalenia (tak naprawdę ćwiczenia całego dysku) jest znacznie droższy niż radzenie sobie z awarią dysku i zamianą.
Łącząc RAID i dobre kopie zapasowe, twoje dane powinny być bardzo bezpieczne, nawet w przypadku śmiertelności niemowląt (lub drugiego końca leczenia w wannie, gdy zaczynasz umierać dyski ze starości)


1
Co jeśli dysk nie może być monitorowany, ponieważ nie znajduje się w jednym stałym miejscu? :)
jsmith

2
@jsmith - wtedy wysyłasz powiadomienia, a nie odpytujesz z hosta monitorującego - prawie nie ma sytuacji, w których naprawdę nie możesz monitorować czegoś, są tylko takie, które wymagają trochę kreatywnego myślenia :)
voretaq7

2

Spinrite (grc.com) odczyta i zapisze wszystkie dane na dysku. Dobrze jest zrobić nowy dysk, nawet jeśli nie próbujesz go zawieść. Uruchomienie na poziomie 4 zajmuje dużo czasu, zwykle w przypadku dysków o obecnej wielkości kilka dni. Powinienem również dodać, że jest to nieniszczące. W rzeczywistości, jeśli ma dane w złych miejscach, przesunie je i odzyska. Oczywiście nigdy nie uruchomiłbyś go na dysku SSD.


1

Jestem pewien, że raz w tygodniu testy porównawcze i sprawdzanie błędów będą wystarczające podczas „wypalania” dysków twardych. Chociaż od czasu twojego postu nigdy nie słyszałem o takich rzeczach.

Cytat z „6_6_6” na Stroagereview.com

1. Connect the drive to a running system. Read SMART values.

2. Do a SMART short self test. Do a SMART long self-test.

3. Zero fill / Wipe the drive with the manufacturer's utility. Entire drive.

4. Run HDTach full read/write. Everest / Sandra, etc all have stress tests. Run hard drive part continously for hours.

5. Run Victoria for Windows Read/Write test and make sure no slow sectors.

6. Drop to DOS. Run MHDD, run a LBA test and see check for slow sectors. Run Read/Write/Verify test. Run drive internal ATA secure erase command.

7. Do a full format.

8. Compare SMART values. If no anomalies, all good to go. Install your OS and continue.

W sumie osobiście uważam, że to zły pomysł.

EDYCJA: Źródło: http://forums.storagereview.com/index.php/topic/27398-new-hdd-burn-in-routines/


0

Po pierwsze, zgadzam się z innymi plakatami, że twój przypadek użycia sugeruje, że napędy taśmowe będą lepszą opcją.

Jeśli nie jest to możliwe, jeśli musisz latać dyskami w całym kraju, prawdziwa macierz RAID nie wydaje się być opcją, ponieważ będziesz musiał przetransportować znacznie więcej dysków, zwiększając ryzyko awarii. A co z prostym schematem kopii lustrzanej, wysyłaniem jednego dysku i utrzymywaniem drugiego w witrynie źródłowej?

Następnie, jeśli dysk nie powiedzie się po przybyciu, można wykonać nową kopię i wysłać. Jeśli dysk jest dobry w momencie przybycia, część zapasowa może być ponownie wykorzystana - do wysyłania lub tworzenia kopii zapasowych oryginalnych danych.


0

Naprawdę nie powiedziałeś, dlaczego dyski są wysyłane - czy to tylko sposób przesyłania danych, czy mają one kompletne obrazy aplikacji / systemu operacyjnego gotowe do uruchomienia na komputerze, czy coś innego?

Zgadzam się z innymi odpowiedziami, że RAID lub kopie zapasowe są lepsze niż skanowanie, ze względu na ryzyko wysyłki dysku powodującego problemy mechaniczne.

Ogólniejszym sposobem wprowadzenia tego byłoby „poleganie na nadmiarowych danych w celu wychwytywania i korygowania błędów” - albo wysyłaj 2 dyski dla każdego zestawu danych, albo wysyłaj redundantne dane na jednym dysku. Coś w rodzaju Parchive pozwala dodać określony poziom redundancji do danych, umożliwiając odzyskiwanie nawet w przypadku uszkodzenia dużej części danych. Ponieważ dyski są obecnie dość tanie, po prostu zakup większego dysku niż jest to absolutnie wymagane, często będzie tańsze niż skanowanie dysku, wysyłka dysku zastępczego lub wysyłka 2 dysków.

Chroniłoby to przed nie katastrofalnymi awariami dysku - jednak nadal najlepiej nie używać ponownie dostarczonego dysku, z wyjątkiem wysyłki, jak sugerowano wcześniej, tj. Wyświetlić go jak taśmę, którą należy wyodrębnić na „prawdziwy” dysk, który jest na stałe zainstalowane i nigdzie nie wysłane.

Powinno to pozwolić na dostarczenie dużej ilości danych (lub nawet obrazów aplikacji / systemu operacyjnego) i zmniejszyć wpływ błędów dysku do poziomu ekonomicznego.

Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.