Confronto gzip, bzip2, xz, lzip, pbzip2, pigz e lbzip2

Postate qui per tutte le discussioni legate a Linux in generale.

Moderatore: Staff

Regole del forum
1) Citare sempre la versione di Slackware usata, la versione del Kernel e magari anche la versione della libreria coinvolta. Questi dati aiutano le persone che possono rispondere.
2) Per evitare confusione prego inserire in questo forum solo topic che riguardano appunto Gnu/Linux in genere, se l'argomento è specifico alla Slackware usate uno dei forum Slackware o Slackware64.
3) Leggere attentamente le risposte ricevute
4) Scrivere i messaggi con il colore di default, evitare altri colori.
5) Scrivere in Italiano o in Inglese, se possibile grammaticalmente corretto, evitate stili di scrittura poco chiari, quindi nessuna abbreviazione tipo telegramma o scrittura stile SMS o CHAT.
6) Appena registrati è consigliato presentarsi nel forum dedicato.

La non osservanza delle regole porta a provvedimenti di vari tipo da parte dello staff, in particolare la non osservanza della regola 5 porta alla cancellazione del post e alla segnalazione dell'utente. In caso di recidività l'utente rischia il ban temporaneo.
Mario Vanoni
Iper Master
Iper Master
Messaggi: 3174
Iscritto il: lun 3 set 2007, 21:20
Nome Cognome: Mario Vanoni
Slackware: 12.2
Kernel: 3.0.4 statico
Desktop: fluxbox/seamonkey
Località: Cuasso al Monte (VA)

Re: Confronto gzip, bzip2, xz, lzip, pbzip2 e pigz

Messaggio da Mario Vanoni »

Aggiornato il primo post,

altro esperimento in corso:

xz_mt_simple di Lasse Collin (xz)

tempo non prevedibile perche'
un po` diverso dagli altri.

Mario Vanoni
Iper Master
Iper Master
Messaggi: 3174
Iscritto il: lun 3 set 2007, 21:20
Nome Cognome: Mario Vanoni
Slackware: 12.2
Kernel: 3.0.4 statico
Desktop: fluxbox/seamonkey
Località: Cuasso al Monte (VA)

Re: Confronto gzip, bzip2, xz, lzip, pbzip2 e pigz

Messaggio da Mario Vanoni »

Aggiornato ad oggi il primo post,

Antonio Diaz, il creatore di lzip,
si meraviglia dei tempi di decompressione e mi scrive:

I see some strange decompression times in your tests. How can bzip2 decompress faster than lzip?

time bzip2 -c -d 1.2B_file.bz2 > /dev/null 0m0.116s, 6 tests
time lzip -c -d 1.2MB_file.lz > /dev/null 0m0.144s ... 0m0.126s, 9 tests

These are my results on an Athlon64 single core:

time bzip2 -cd linux-2.6.28.tar.bz2 > /dev/null 20.109s
time lzip-1.5 -cd linux-2.6.28.tar.lz > /dev/null 8.469s
time lzip-1.6 -cd linux-2.6.28.tar.lz > /dev/null 7.067s

Ho rifatto i test, sia con il piccolo file che quello grande,
risultati identici, e rifatto con il nuovo lzip-1.6.

I risultati sono tutti raccolti nel primo post.

Avatar utente
Blallo
Packager
Packager
Messaggi: 3302
Iscritto il: ven 12 ott 2007, 11:37
Nome Cognome: Savino Liguori
Slackware: 14.2 / 12.2
Kernel: 4.4.14-smp
Desktop: DWM
Località: Torino / Torremaggiore (FG)
Contatta:

Re: Confronto gzip, bzip2, xz, lzip, pbzip2 e pigz

Messaggio da Blallo »

:-k

Mario Vanoni
Iper Master
Iper Master
Messaggi: 3174
Iscritto il: lun 3 set 2007, 21:20
Nome Cognome: Mario Vanoni
Slackware: 12.2
Kernel: 3.0.4 statico
Desktop: fluxbox/seamonkey
Località: Cuasso al Monte (VA)

Re: Confronto gzip, bzip2, xz, lzip, pbzip2 e pigz

Messaggio da Mario Vanoni »

time ls * |
while read f
do
echo $f
cat $f | xz_mt_simple 5 5 > /dev/null
done

5470m27.109s, quindi 91.2 ore

essendo sperimentale, non lo aggiungo al primo post

Mario Vanoni
Iper Master
Iper Master
Messaggi: 3174
Iscritto il: lun 3 set 2007, 21:20
Nome Cognome: Mario Vanoni
Slackware: 12.2
Kernel: 3.0.4 statico
Desktop: fluxbox/seamonkey
Località: Cuasso al Monte (VA)

Re: Confronto gzip, bzip2, xz, lzip, pbzip2 e pigz

Messaggio da Mario Vanoni »

Istigato da Lasse Collin, ho fatto altri due esperimenti,
stesse macchine, kernel 2.6.30:

time xz -2 -f -v * time 94.16 hours, du -hs 678GB
time xz -c -d 1.2MB_file.xz > /dev/null 0m0.196s ... 0m103s
time xz -c -d 566MB_file.xz > /dev/null about 59s
time xz -d -v *.xz 29.4 hours, du -hs 869GB

Il suo commento:
Thanks. In this test, "xz -2" was slower than I had hoped (too far from bzip2).

Essendo i 22197 files citati nel primo post tutti *.wav

time flac -8 --delete-input-file *.wav time 39 hours, du -hs 381GB
time flac -c -d 1.2MB_file.flac 0m0.024s
time flac -c -c 566MB_file.flac 0m9.449s ... 0m9.297s
time flac --delete-input-file -d *.flac 9.6 hours, du -hs 869GB

Il suo commento:
This is roughly what I expected. When the type of uncompressed data is
known, special purporse algorithms are the right tool instead of general
purporse compression tools.

Stranamente flac(1) si e` rifiutato di comprimere un unico file dei 22197,
ma che con aplay(1) risulta senza errori,
alla fine ha un applauso lunghissimo, e li` flac va in errore.
Essendo la loro BUG list solo per registrati, non lo sapranno mai!

Perche' ho la raccolta CD sul computer?

KISS rule, sentire un'opera intera non-stop:
con un player: CD1, poi mettere CD2, poi mettere CD3 ...
oppure
aplay CD1*.wav CD2*.wav CD3*.wav ...

Se non interessa, scusatemi.

Avatar utente
Blallo
Packager
Packager
Messaggi: 3302
Iscritto il: ven 12 ott 2007, 11:37
Nome Cognome: Savino Liguori
Slackware: 14.2 / 12.2
Kernel: 4.4.14-smp
Desktop: DWM
Località: Torino / Torremaggiore (FG)
Contatta:

Re: Confronto gzip, bzip2, xz, lzip, pbzip2 e pigz

Messaggio da Blallo »

no no anzi è interessante...soprattutto per chi ha come minimo un dual core...

Mario Vanoni
Iper Master
Iper Master
Messaggi: 3174
Iscritto il: lun 3 set 2007, 21:20
Nome Cognome: Mario Vanoni
Slackware: 12.2
Kernel: 3.0.4 statico
Desktop: fluxbox/seamonkey
Località: Cuasso al Monte (VA)

Re: Confronto gzip, bzip2, xz, lzip, pbzip2, pigz e lbzip2

Messaggio da Mario Vanoni »

Aggiornato il primo post con lbzip2 di

ERSEK Laszlo lacos@caesar.elte.hu
http://lacos.web.elte.hu/pub/lbzip2/

con gli stessi test, anche se kernel diverso.

Mi interessava essendo un bzip2 multi-thread.

Se non interessa piu` l'argomento, scusatemi.

Rispondi