Dlaczego przesyłanie strumieniowe „tar” do „dd” nie zatrzymuje się, dopóki dysk nie jest pełny?

Mam archiwum tar jednego obrazu dysku. Obraz w tym pliku tar ma rozmiar około 4 GB. Przesyłam dane wyjściowe do tar xfw ddcelu zapisania obrazu dysku na karcie SD. Zrzut dysku nigdy się nie zatrzymuje, dopóki karta nie jest pełna. Oto moja sesja powłoki:

$ ls -l disk.img.tgz
-rw-r--r-- 1 confus confus 192M Okt  5 00:53

$ tar -tvf disk.img.tgz
-rw-r--r-- root/root 4294968320 2018-10-05 00:52 disk.img

$ lsblk -lb /dev/sdc
NAME MAJ:MIN RM        SIZE RO TYPE MOUNTPOINT
sdc    8:32   1 16022241280  0 disk

$ tar zxf disk.img.tgz -O | sudo dd status=progress conv=sync bs=1M of=/dev/sdc
[sudo] password for user: 
15992881152 bytes (16 GB, 15 GiB) copied, 212 s, 75,4 MB/s 
dd: error writing '/dev/sdc': No space left on device
0+15281 records in
15280+0 records out
16022241280 bytes (16 GB, 15 GiB) copied, 217,67 s, 73,6 MB/s

Dlaczego? Powinno się zatrzymać po tym, jak hit zapisał obraz 4 GB do koszyka 16 GB i nigdy nie zabraknie miejsca!

To dlatego, że robisz to źle.

Używasz, bs=1Male czytanie ze standardowego, potoku będzie miało mniejsze odczyty. W rzeczywistości, według dd, nie dostałeś ani jednego pełnego odczytu.

A potem masz, conv=syncktóry uzupełnia niekompletne odczyty zerami.

0+15281 records in
15280+0 records out

ddotrzymał 0 pełnych i 15281 niepełnych odczytów i napisał 15280 pełnych bloków (conv = synchronizacja wypełniona zerem). Wyjście jest więc znacznie większe niż wejście, dopóki nie zostanie wolne miejsce.

   sync   pad  every  input  block  with  NULs to ibs-size; when used with
          block or unblock, pad with spaces rather than NULs

Aby rozwiązać ten problem, możesz usunąć conv=synci dodać iflag=fullblock.

Aby to zilustrować, zastanów się yes, która domyślnie wyrzuca nieskończone „y \ ny \ ny \ n”.

$ yes
y
y
y
^C
$ yes | hexdump -C
00000000  79 0a 79 0a 79 0a 79 0a  79 0a 79 0a 79 0a 79 0a  |y.y.y.y.y.y.y.y.|
*

Z dd bs=1M conv=syncwygląda to tak:

$ yes | dd bs=1M conv=sync | hexdump -C
00000000  79 0a 79 0a 79 0a 79 0a  79 0a 79 0a 79 0a 79 0a  |y.y.y.y.y.y.y.y.|
*
0001e000  00 00 00 00 00 00 00 00  00 00 00 00 00 00 00 00  |................|
*
00100000  79 0a 79 0a 79 0a 79 0a  79 0a 79 0a 79 0a 79 0a  |y.y.y.y.y.y.y.y.|
*
00112000  00 00 00 00 00 00 00 00  00 00 00 00 00 00 00 00  |................|
*

Otrzymuje więc niekompletny blok „y \ ny \ ny \ n” (0x00000 - 0x1e000, 122880 bajtów), a następnie zapisuje pozostały 1M jako zera (0x01e000 - 0x100000, 925696 bajtów). W większości przypadków nie chcesz, aby tak się stało. Wynik jest w każdym razie losowy, ponieważ nie masz rzeczywistej kontroli nad tym, jak niekompletny byłby każdy odczyt. Tak jak tutaj, drugi odczyt to już nie 122880 bajtów, ale 73728 bajtów.

dd conv=syncjest rzadko przydatny i nawet w przypadkach, w których byłoby to mile widziane, np. pisanie zer, gdy wystąpią błędy odczytu, wszystko pójdzie z tym okropnie źle.