info
Google Groups no longer supports new Usenet posts or subscriptions. Historical content remains viewable.
Dismiss
Debian 12.4 e ZFS
2 views
Skip to first unread message
Alessandro Baggi
Jan 11, 2024, 11:50:04 AMJan 11
to
Un saluto a tutti i partecipanti.
Spero di non essere OT.
Ho un piccolo server di backup sui cui è presente un RAID1 mdadm e xfs
come storage. Volevo aggiungere un controllo di integrità per i dati e
ho trovato tre soluzioni:
1. dm-integrity + mdadm
2. ZFS
3. Btrfs
Dopo qualche test casalingo, qualche ricerca e qualche lettura tipo
[1](anche se è del 2020) alla fine ho optato per ZFS. Ho provato
dm-integrity e mdadm ma su dischi da 3TB ci mette un po perche quando
formatta per dm-integrity deve fare il wipe di ogni device quindi due
device da 3TB, poi deve creare il raid quindi bisogna aspettare il sync
dei 3TB. Inoltre per verificare errori di integrità devo lanciare un
check sul raid mdadm e ci mette un po, per non parlare in caso di guasto
in cui devo ricreare il device dm-integrity e rifare il sync. Non
immagino il tempo necessario con dischi più capienti. Con ZFS invece il
resilvering è più veloce e inoltre offre altre funzionalità che non si
hanno con dm-integrity + mdadm + xfs.
Debian supporta ZFS dai repo stable contrib e backports contrib. Ho
letto in rete che era presente un bug problematico che riportava ad una
corruzione dei dati (deve verificarsi un determinata condizione) e per
Debian si consiglia di utilizzare la versione di ZFS presente sui
backports perche aveva la versione fixata.
Qualcuno lo usa al momento (non per uso casalingo) e ha qualche
suggerimento prima di convertire lo storage? Ho gia effettuato il backup
del backup.
L'unica cosa che mi rende insicuro della scelta è che ZFS è compilato
con DKMS e ad ogni aggiornamento del kernel viene ricompilato e qui sta
il problema. Vi è mai capitato che DKMS fallisse una ricompilazione di
ZFS? In caso di errori di compilazione cosa fare (oltre ad usare il
kernel precedente dove ZFS funzionava correttamente)?
Al momento uso DKMS per i driver NVIDIA (dal sito NVIDIA) e non ho mai
avuto problemi da due anni a questa parte, ma mai dire mai.
Che esperienza avete con questo FS? Avete avuto brutte sorprese?
Grazie a tutti in anticipo.
Saluti.
[1] -
https://www.unixsheikh.com/articles/battle-testing-zfs-btrfs-and-mdadm-dm.html
Spero di non essere OT.
Ho un piccolo server di backup sui cui è presente un RAID1 mdadm e xfs
come storage. Volevo aggiungere un controllo di integrità per i dati e
ho trovato tre soluzioni:
1. dm-integrity + mdadm
2. ZFS
3. Btrfs
Dopo qualche test casalingo, qualche ricerca e qualche lettura tipo
[1](anche se è del 2020) alla fine ho optato per ZFS. Ho provato
dm-integrity e mdadm ma su dischi da 3TB ci mette un po perche quando
formatta per dm-integrity deve fare il wipe di ogni device quindi due
device da 3TB, poi deve creare il raid quindi bisogna aspettare il sync
dei 3TB. Inoltre per verificare errori di integrità devo lanciare un
check sul raid mdadm e ci mette un po, per non parlare in caso di guasto
in cui devo ricreare il device dm-integrity e rifare il sync. Non
immagino il tempo necessario con dischi più capienti. Con ZFS invece il
resilvering è più veloce e inoltre offre altre funzionalità che non si
hanno con dm-integrity + mdadm + xfs.
Debian supporta ZFS dai repo stable contrib e backports contrib. Ho
letto in rete che era presente un bug problematico che riportava ad una
corruzione dei dati (deve verificarsi un determinata condizione) e per
Debian si consiglia di utilizzare la versione di ZFS presente sui
backports perche aveva la versione fixata.
Qualcuno lo usa al momento (non per uso casalingo) e ha qualche
suggerimento prima di convertire lo storage? Ho gia effettuato il backup
del backup.
L'unica cosa che mi rende insicuro della scelta è che ZFS è compilato
con DKMS e ad ogni aggiornamento del kernel viene ricompilato e qui sta
il problema. Vi è mai capitato che DKMS fallisse una ricompilazione di
ZFS? In caso di errori di compilazione cosa fare (oltre ad usare il
kernel precedente dove ZFS funzionava correttamente)?
Al momento uso DKMS per i driver NVIDIA (dal sito NVIDIA) e non ho mai
avuto problemi da due anni a questa parte, ma mai dire mai.
Che esperienza avete con questo FS? Avete avuto brutte sorprese?
Grazie a tutti in anticipo.
Saluti.
[1] -
https://www.unixsheikh.com/articles/battle-testing-zfs-btrfs-and-mdadm-dm.html
Gianluca Francesco Signorotto
Jan 11, 2024, 1:40:05 PMJan 11
to
Il 11/01/2024 17:49, Alessandro Baggi ha scritto:
> Ho un piccolo server di backup sui cui è presente un RAID1
> mdadmL'unica cosa che mi rende insicuro della scelta è che
> Ho un piccolo server di backup sui cui è presente un RAID1
> ZFS è compilato con DKMS e ad ogni aggiornamento del kernel
> viene ricompilato e qui sta il problema. Vi è mai capitato
> che DKMS fallisse una ricompilazione di ZFS? In caso di
> errori di compilazione cosa fare (oltre ad usare il kernel
> precedente dove ZFS funzionava correttamente)?
>
> Al momento uso DKMS per i driver NVIDIA (dal sito NVIDIA) e
> non ho mai avuto problemi da due anni a questa parte, ma mai
> dire mai.
Ciao, con i suoi oltre 20 anni di sviluppo DKMS immagino, da
> viene ricompilato e qui sta il problema. Vi è mai capitato
> che DKMS fallisse una ricompilazione di ZFS? In caso di
> errori di compilazione cosa fare (oltre ad usare il kernel
> precedente dove ZFS funzionava correttamente)?
>
> Al momento uso DKMS per i driver NVIDIA (dal sito NVIDIA) e
> non ho mai avuto problemi da due anni a questa parte, ma mai
> dire mai.
quel punto di vista, sia ben maturo ed affidabile e non
faccia scherzi di quel tipo... tutto può essere eh.
È da tenere presente che ZFS richiede molta RAM per
funzionare a dovere; se intendi adottarlo, assicurati di
averne abbastanza disponibile.
Utilizzo Proxmox ed avendo letto la loro documentazione,
consigliano 4 GB RAM di base più 1GB di RAM per ciascun TB
di spazio disco.
Ora, Proxmox usa un kernel modificato ma proveniente da
Ubuntu (per ragioni di licenza è dovuta la scelta) e lì non
c'è quindi bisogno di DKMS. Su una Debian a seconda dei casi
preferisco, invece, affidarmi a BTRFS.
A presto,
--
Gianluca Francesco Signorotto
website: https://eritrium.org
Alessandro Baggi
Jan 12, 2024, 3:30:04 AMJan 12
to
Ciao Gianluca e grazie per la riposta.
>
> Ciao, con i suoi oltre 20 anni di sviluppo DKMS immagino, da
> quel punto di vista, sia ben maturo ed affidabile e non
> faccia scherzi di quel tipo... tutto può essere eh.
>
> È da tenere presente che ZFS richiede molta RAM per
> funzionare a dovere; se intendi adottarlo, assicurati di
> averne abbastanza disponibile.
>
> Utilizzo Proxmox ed avendo letto la loro documentazione,
> consigliano 4 GB RAM di base più 1GB di RAM per ciascun TB
> di spazio disco.
Io sapevo che era necessario 1GB di RAM per ogni TB in caso di
deduplicazione.
>
> Ora, Proxmox usa un kernel modificato ma proveniente da
> Ubuntu (per ragioni di licenza è dovuta la scelta) e lì non
> c'è quindi bisogno di DKMS. Su una Debian a seconda dei casi
> preferisco, invece, affidarmi a BTRFS.
>
> A presto,
>
Quindi da un certo punto di vista mi sconsigli di utilizzare ZFS su una
distro che utilizza dkms per zfs a livello di stabilità?
Un saluto.
>
> Ciao, con i suoi oltre 20 anni di sviluppo DKMS immagino, da
> quel punto di vista, sia ben maturo ed affidabile e non
> faccia scherzi di quel tipo... tutto può essere eh.
>
> È da tenere presente che ZFS richiede molta RAM per
> funzionare a dovere; se intendi adottarlo, assicurati di
> averne abbastanza disponibile.
>
> Utilizzo Proxmox ed avendo letto la loro documentazione,
> consigliano 4 GB RAM di base più 1GB di RAM per ciascun TB
> di spazio disco.
deduplicazione.
>
> Ora, Proxmox usa un kernel modificato ma proveniente da
> Ubuntu (per ragioni di licenza è dovuta la scelta) e lì non
> c'è quindi bisogno di DKMS. Su una Debian a seconda dei casi
> preferisco, invece, affidarmi a BTRFS.
>
> A presto,
>
distro che utilizza dkms per zfs a livello di stabilità?
Un saluto.
gianluca....@eritrium.org
Jan 12, 2024, 4:50:04 AMJan 12
to
Il 12/01/24 09:29, Alessandro Baggi ha scritto:
> Io sapevo che era necessario 1GB di RAM per ogni TB in caso
> di deduplicazione.
per quanto ne so, al contrario, assieme alla deduplicazione,
> di deduplicazione.
molte altre caratteristiche di ZFS richiedono RAM.
https://web.archive.org/web/20140818042550/http://hardforum.com/showpost.php?s=8d31305e57c1dd2853eb817124ff18d9&p=1036865233&postcount=3
> Quindi da un certo punto di vista mi
> sconsigli di utilizzare ZFS su una distro che utilizza dkms
> per zfs a livello di stabilità?
perché non mi piace avere di mezzo DKMS per avere ZFS su
Debian, ma ciò e personale. Se a te va bene nullaosta.
A presto,
--
*Gianluca Francesco Signorotto*
website: https://eritrium.org
gerlos
Jan 12, 2024, 5:00:05 AMJan 12
to
Il 12/01/24 09:29, Alessandro Baggi ha
scritto:
Ora, Proxmox usa un kernel modificato ma proveniente da
Ubuntu (per ragioni di licenza è dovuta la scelta) e lì non
c'è quindi bisogno di DKMS. Su una Debian a seconda dei casi
preferisco, invece, affidarmi a BTRFS.
A presto,
Quindi da un certo punto di vista mi sconsigli di utilizzare ZFS su una distro che utilizza dkms per zfs a livello di stabilità?
Mah, io per non saper né leggere né scrivere userei ZFS per i
volumi che contengono i dati, e metterei il sistema operativo su
un file system supportato nativamente dal kernel, come i ben noti
ext4 e xfs.
In questo modo nella remota ipotesi in cui qualcosa vada storto
con dkms puoi comunque avviare il sistema, risolvere la questione
e montare il volume o i volumi dei dati in un secondo momento (con
l'opzione "nofail" in /etc/fstab il sistema prosegue il boot anche
se non può montare un certo volume).
A ogni modo anche io userei btrfs, soprattutto per un server di backup casalingo, dove il fatto che è più lento di zfs non conta più di tanto (immagino che il collo di bottiglia sia la rete, non lo storage). Intanto perché mi fanno antipatia i problemi di licenza di zfs, ;-) poi per evitare problemi con dkms, e infine perché rispetto a zfs con btrfs mi sembra più facile "rimescolare le carte" a posteriori (sostituire dischi, passare da una configurazione all'altra, etc... ma probabilmente sono io che non ho capito zfs).
saluti,
gerlos
Alessandro Baggi
Jan 12, 2024, 5:10:04 AMJan 12
to
Il 12/01/24 10:46, gianluca....@eritrium.org ha scritto:
>
>
> Il 12/01/24 09:29, Alessandro Baggi ha scritto:
>> Io sapevo che era necessario 1GB di RAM per ogni TB in caso
>> di deduplicazione.
>
> per quanto ne so, al contrario, assieme alla deduplicazione,
> molte altre caratteristiche di ZFS richiedono RAM.
>
> https://web.archive.org/web/20140818042550/http://hardforum.com/showpost.php?s=8d31305e57c1dd2853eb817124ff18d9&p=1036865233&postcount=3
>
Grazie per la risorsa.
>
> Il 12/01/24 09:29, Alessandro Baggi ha scritto:
>> Io sapevo che era necessario 1GB di RAM per ogni TB in caso
>> di deduplicazione.
>
> per quanto ne so, al contrario, assieme alla deduplicazione,
> molte altre caratteristiche di ZFS richiedono RAM.
>
> https://web.archive.org/web/20140818042550/http://hardforum.com/showpost.php?s=8d31305e57c1dd2853eb817124ff18d9&p=1036865233&postcount=3
>
>> Quindi da un certo punto di vista mi
>> sconsigli di utilizzare ZFS su una distro che utilizza dkms
>> per zfs a livello di stabilità?
>
> Non a livello di stabilità ma, come scrivevo, semplicemente
> perché non mi piace avere di mezzo DKMS per avere ZFS su
> Debian, ma ciò e personale. Se a te va bene nullaosta.
>
reso indeciso.
Alessandro Baggi
Jan 12, 2024, 5:20:04 AMJan 12
to
Ciao Gerlos e grazie per la risposta.
> Mah, io per non saper né leggere né scrivere userei ZFS per i volumi che
> contengono i dati, e metterei il sistema operativo su un file system
> supportato nativamente dal kernel, come i ben noti ext4 e xfs.
>
> In questo modo nella remota ipotesi in cui qualcosa vada storto con dkms
> puoi comunque avviare il sistema, risolvere la questione e montare il
> volume o i volumi dei dati in un secondo momento (con l'opzione "nofail"
> in /etc/fstab il sistema prosegue il boot anche se non può montare un
> certo volume).
La mia intenzione era lasciare solo i dati su ZFS e il sistema su ext4.
>
> A ogni modo anche io userei btrfs, soprattutto per un server di backup
> casalingo, dove il fatto che è più lento di zfs non conta più di tanto
> (immagino che il collo di bottiglia sia la rete, non lo storage).
Il server non è un server casalingo ma un piccolo server di backup.
Ho usato poco BTRFS ma pensandoci comunque il raid1 non ha problemi
(tipo write hole), ha la compressione, l'integritità e la deduplicazione
ed è supportato nativamente dal kernel di Debian. Devo studiare un po
btrfs perche ho solo letto qualcosa online ma non ho fatto nulla di
concreto.
> Intanto perché mi fanno antipatia i problemi di licenza di zfs, ;-) poi
> per evitare problemi con dkms,
Stesso sentimento.
e infine perché rispetto a zfs con btrfs
> mi sembra più facile "rimescolare le carte" a posteriori (sostituire
> dischi, passare da una configurazione all'altra, etc... ma probabilmente
> sono io che non ho capito zfs).
In realtà, si, btrfs sembra più flessibile (da quello che ho letto). Con
ZFS non puoi fare alcune cose (non ricordo bene quale operazione) ma
devi per forza ricreare il pool.
Domanda: Usare btrfs su SSD comporta qualche problema?
Saluti,
Alessandro.
> Mah, io per non saper né leggere né scrivere userei ZFS per i volumi che
> contengono i dati, e metterei il sistema operativo su un file system
> supportato nativamente dal kernel, come i ben noti ext4 e xfs.
>
> In questo modo nella remota ipotesi in cui qualcosa vada storto con dkms
> puoi comunque avviare il sistema, risolvere la questione e montare il
> volume o i volumi dei dati in un secondo momento (con l'opzione "nofail"
> in /etc/fstab il sistema prosegue il boot anche se non può montare un
> certo volume).
>
> A ogni modo anche io userei btrfs, soprattutto per un server di backup
> casalingo, dove il fatto che è più lento di zfs non conta più di tanto
> (immagino che il collo di bottiglia sia la rete, non lo storage).
Ho usato poco BTRFS ma pensandoci comunque il raid1 non ha problemi
(tipo write hole), ha la compressione, l'integritità e la deduplicazione
ed è supportato nativamente dal kernel di Debian. Devo studiare un po
btrfs perche ho solo letto qualcosa online ma non ho fatto nulla di
concreto.
> Intanto perché mi fanno antipatia i problemi di licenza di zfs, ;-) poi
> per evitare problemi con dkms,
e infine perché rispetto a zfs con btrfs
> mi sembra più facile "rimescolare le carte" a posteriori (sostituire
> dischi, passare da una configurazione all'altra, etc... ma probabilmente
> sono io che non ho capito zfs).
ZFS non puoi fare alcune cose (non ricordo bene quale operazione) ma
devi per forza ricreare il pool.
Domanda: Usare btrfs su SSD comporta qualche problema?
Saluti,
Alessandro.
gianluca....@eritrium.org
Jan 12, 2024, 5:40:04 AMJan 12
to
Il 12/01/24 11:18, Alessandro Baggi ha scritto:
> Domanda: Usare btrfs su SSD comporta qualche problema?
No che io sappia. Si comporta bene con gli SSD. Puoi usare
le opzioni di mount "lazytime", "ssd", "discard"... ad esempio.
Qui
https://btrfs.readthedocs.io/en/latest/Administration.html#mount-options
gerlos
Jan 17, 2024, 5:40:05 AMJan 17
to
> Il giorno 12 gen 2024, alle ore 11:18, Alessandro Baggi <alessand...@gmail.com> ha scritto:
>
> e infine perché rispetto a zfs con btrfs
>> mi sembra più facile "rimescolare le carte" a posteriori (sostituire dischi, passare da una configurazione all'altra, etc... ma probabilmente sono io che non ho capito zfs).
>
> In realtà, si, btrfs sembra più flessibile (da quello che ho letto). Con ZFS non puoi fare alcune cose (non ricordo bene quale operazione) ma devi per forza ricreare il pool.
>
> Domanda: Usare btrfs su SSD comporta qualche problema?
>
Tra l'altro anche la perdita di prestazioni di btrfs con il suo raid1 nativo non è poi così marcata rispetto a ext4 su raid1 via dmadm.
Tempo fa avevo fatto dei test con fio su una coppia di ssd nvme di fascia media confrontando queste due configurazioni: il throughput in lettura di btrfs + raid1 era tra 80% e 50% rispetto a ext4 + raid1 (dipende dal tipo carico), mentre le velocità di scrittura erano tutto sommato paragonabili (80% - 90%).
saluti,
gerlos
PS scusa il doppio invio.
0 new messages