Google Groups no longer supports new Usenet posts or subscriptions. Historical content remains viewable.
Dismiss
ZFS vs LVM
1,156 views
Skip to first unread message
Roman Tyczka
Jun 7, 2021, 9:30:39 AM6/7/21
to
Przez weekend zrobiłem w domu sieć ethernet, więc mój nowy serwer z
proxmoxem ma już godne warunki bytowania ;-) ale pojawia się seria
nowych pytań.
W proxmoxie mogę utworzyć woluminy LVM, LVM Thin oraz oraz ZFS.
Czytam o jednym i drugim i tak naprawdę mam wrażenie, że LVM i ZFS to
bardzo pokrewne technologie, w sensie że mają bardzo zbliżone cechy,
funkcjonalności i przeznaczenie. Niejako się pokrywają.
Czy ktoś może w kilku słowach napisać w jakich zastosowaniach się one
znacząco różnią i które do czego są odpowiedniejsze?
--
pzdr
Roman
Marcin Debowski
Jun 8, 2021, 7:40:33 PM6/8/21
to
woluminami, czyli np. tworzenie woluminów logicznych z fizycznych
urządzeń blokowych. Bierzesz np. /dev/sda; /dev/sdb1, tworzysz z nich
wirtualne urządzenie, które pojawia się jako osobne urządzenie pod /dev.
Dalej, możesz traktować takie urządzenia jak typową partycję dysku
twardego, czyli np. sformatować ext4.
ZFS ma zdaje się również zarządzanie woluminami, ale jest to generalnie
system plików o wielu zaletach, ale też dość wymagający sprzętowo.
--
Marcin
Roman Tyczka
Jun 9, 2021, 1:45:19 PM6/9/21
to
On 09.06.2021 01:40, Marcin Debowski wrote:
>> W proxmoxie mogę utworzyć woluminy LVM, LVM Thin oraz oraz ZFS.
>> Czytam o jednym i drugim i tak naprawdę mam wrażenie, że LVM i ZFS to
>> bardzo pokrewne technologie, w sensie że mają bardzo zbliżone cechy,
>> funkcjonalności i przeznaczenie. Niejako się pokrywają.
>>
>> Czy ktoś może w kilku słowach napisać w jakich zastosowaniach się one
>> znacząco różnią i które do czego są odpowiedniejsze?
>
> Nie znam się nic a nic na proxmoxie,
Zachęcam przyokazyjnie do poznania proxmoxa, mega fantastyczna zabawka :-)
>> W proxmoxie mogę utworzyć woluminy LVM, LVM Thin oraz oraz ZFS.
>> Czytam o jednym i drugim i tak naprawdę mam wrażenie, że LVM i ZFS to
>> bardzo pokrewne technologie, w sensie że mają bardzo zbliżone cechy,
>> funkcjonalności i przeznaczenie. Niejako się pokrywają.
>>
>> Czy ktoś może w kilku słowach napisać w jakich zastosowaniach się one
>> znacząco różnią i które do czego są odpowiedniejsze?
>
> Nie znam się nic a nic na proxmoxie,
> ale LVM to normalnie zarządzanie
> woluminami, czyli np. tworzenie woluminów logicznych z fizycznych
> urządzeń blokowych. Bierzesz np. /dev/sda; /dev/sdb1, tworzysz z nich
> wirtualne urządzenie, które pojawia się jako osobne urządzenie pod /dev.
> Dalej, możesz traktować takie urządzenia jak typową partycję dysku
> twardego, czyli np. sformatować ext4.
> ZFS ma zdaje się również zarządzanie woluminami, ale jest to generalnie
> system plików o wielu zaletach, ale też dość wymagający sprzętowo.
cały konglomerat możliwości na różnych warstwach, potrafi robić RAIDy
softwarowe, kompresować voluminy, wykrywać w zaawansowany sposób błędy
zapisu, tworzyć snapshoty (w tym sieciowo), potrafi dynamicznie zmieniać
wielkość bloku w zależności od danych i mnóstwo innych cudów na kiju.
Ale rzeczywiście wymagający od strony hardwaru jak i samego użycia i
konfiguracji.
--
pzdr
Roman
Michal Lukasik
Jun 27, 2021, 3:52:00 PM6/27/21
to
On 6/9/21 6:45 PM, Roman Tyczka wrote:
> Zachęcam przyokazyjnie do poznania proxmoxa, mega fantastyczna zabawka :-)
Dobrze powiedziane. :)
> Zachęcam przyokazyjnie do poznania proxmoxa, mega fantastyczna zabawka :-)
Od kilku lat wszystkie moje serwery są zwirtualizowane i pod kontrolą
Proxmoxa.
> Właśnie jest to niby system plików, ale to grube niedopowiedzenie. To
> cały konglomerat możliwości na różnych warstwach, potrafi robić RAIDy
> softwarowe, kompresować voluminy, wykrywać w zaawansowany sposób błędy
> zapisu, tworzyć snapshoty (w tym sieciowo), potrafi dynamicznie zmieniać
> wielkość bloku w zależności od danych i mnóstwo innych cudów na kiju.
> Ale rzeczywiście wymagający od strony hardwaru jak i samego użycia i
> konfiguracji.
BTRFS hybryda systemu plików i narzędzi do zarządzania programowym raid
(MDADM czy LVM stają się zbędne).
Osobiście wolą sprzętowy raid (SAS) i na tym LVM + XFS, ale jak ktoś
stawia serwer na dyskach SATA i ma wystarczająco mocny sprzęt by spełnić
wymagania ZFS to warto użyć. Główny argument zwolenników ZFS to ochrona
przed 'bit rot'.
--
_____ __________________________
\` Y (__) __\` | | | '/
T | | | | \__T = | ! T UIN 53883184 GG#1902559
|__|_|__|__|_____|__|__|_____| _ l @ t l e n . p l
pioruns
Jun 27, 2021, 6:11:00 PM6/27/21
to
On 27/06/2021 20:51, Michal Lukasik wrote:
> ZFS a żeby być dokładnym w przypadku Proxmoxa OpenZFS to podobnie jak
> BTRFS hybryda systemu plików i narzędzi do zarządzania programowym raid
> (MDADM czy LVM stają się zbędne).
> Osobiście wolą sprzętowy raid (SAS) i na tym LVM + XFS, ale jak ktoś
> stawia serwer na dyskach SATA i ma wystarczająco mocny sprzęt by spełnić
> wymagania ZFS to warto użyć. Główny argument zwolenników ZFS to ochrona
> przed 'bit rot'.
>
Btrfs dziala rownie dobrze co ZFS z tego co mi wiadomo, i nie ma duzych
> ZFS a żeby być dokładnym w przypadku Proxmoxa OpenZFS to podobnie jak
> BTRFS hybryda systemu plików i narzędzi do zarządzania programowym raid
> (MDADM czy LVM stają się zbędne).
> Osobiście wolą sprzętowy raid (SAS) i na tym LVM + XFS, ale jak ktoś
> stawia serwer na dyskach SATA i ma wystarczająco mocny sprzęt by spełnić
> wymagania ZFS to warto użyć. Główny argument zwolenników ZFS to ochrona
> przed 'bit rot'.
>
wymagan sprzetowych, na malinie bez problemu nawet pojdzie.
Warto rozwazyc jak juz ktos wybiera miedzy ZFS a Btrfs.
--
pozdrawiam, pioruns
_,.-'~'-.,__,.-'~'-.,__,.-'~'-.,__,.
Registered Linux User #454644
Marcin Debowski
Jun 28, 2021, 1:01:27 AM6/28/21
to
On 2021-06-27, pioruns <w...@website.com> wrote:
> On 27/06/2021 20:51, Michal Lukasik wrote:
>
>> ZFS a żeby być dokładnym w przypadku Proxmoxa OpenZFS to podobnie jak
>> BTRFS hybryda systemu plików i narzędzi do zarządzania programowym raid
>> (MDADM czy LVM stają się zbędne).
>> Osobiście wolą sprzętowy raid (SAS) i na tym LVM + XFS, ale jak ktoś
>> stawia serwer na dyskach SATA i ma wystarczająco mocny sprzęt by spełnić
>> wymagania ZFS to warto użyć. Główny argument zwolenników ZFS to ochrona
>> przed 'bit rot'.
>>
> Btrfs dziala rownie dobrze co ZFS z tego co mi wiadomo, i nie ma duzych
> wymagan sprzetowych, na malinie bez problemu nawet pojdzie.
> Warto rozwazyc jak juz ktos wybiera miedzy ZFS a Btrfs.
No właśnie, przy oklazji, może by ktoś obeznany w temacie podeliberował o tym
> On 27/06/2021 20:51, Michal Lukasik wrote:
>
>> ZFS a żeby być dokładnym w przypadku Proxmoxa OpenZFS to podobnie jak
>> BTRFS hybryda systemu plików i narzędzi do zarządzania programowym raid
>> (MDADM czy LVM stają się zbędne).
>> Osobiście wolą sprzętowy raid (SAS) i na tym LVM + XFS, ale jak ktoś
>> stawia serwer na dyskach SATA i ma wystarczająco mocny sprzęt by spełnić
>> wymagania ZFS to warto użyć. Główny argument zwolenników ZFS to ochrona
>> przed 'bit rot'.
>>
> Btrfs dziala rownie dobrze co ZFS z tego co mi wiadomo, i nie ma duzych
> wymagan sprzetowych, na malinie bez problemu nawet pojdzie.
> Warto rozwazyc jak juz ktos wybiera miedzy ZFS a Btrfs.
zakresie ochrony zfs. Mam spory wolumin na btrs i owszem, wykrywa, że np.
suma kontrolna się nie zgadza, ale co do ochrony to musiałem sobie odtworzyć
z backupu. Wolumin 24TB, tak że koszt zrobienie Raid0 odrobinę za duży.
Brakuje mi bardzo jakiegoś FS, który miałby funkcje typu checksum i coś z
funkcjonalności par2. Ustawiam sobie redundancje na 5%, system mieli sobie
mozolnie par'y w tle, ale jak skończy i całe stado bit rot'ów i gorszych nie
straszne.
--
Marcin
Roman Tyczka
Jun 29, 2021, 9:19:00 AM6/29/21
to
On 28.06.2021 07:01, Marcin Debowski wrote:
>> Btrfs dziala rownie dobrze co ZFS z tego co mi wiadomo, i nie ma duzych
>> wymagan sprzetowych, na malinie bez problemu nawet pojdzie.
>> Warto rozwazyc jak juz ktos wybiera miedzy ZFS a Btrfs.
>
> No właśnie, przy oklazji, może by ktoś obeznany w temacie podeliberował o tym
> zakresie ochrony zfs. Mam spory wolumin na btrs i owszem, wykrywa, że np.
> suma kontrolna się nie zgadza, ale co do ochrony to musiałem sobie odtworzyć
> z backupu. Wolumin 24TB, tak że koszt zrobienie Raid0 odrobinę za duży.
>
> Brakuje mi bardzo jakiegoś FS, który miałby funkcje typu checksum i coś z
> funkcjonalności par2. Ustawiam sobie redundancje na 5%, system mieli sobie
> mozolnie par'y w tle, ale jak skończy i całe stado bit rot'ów i gorszych nie
> straszne.
ZFS teoretycznie załatwia ten problem:
>> Btrfs dziala rownie dobrze co ZFS z tego co mi wiadomo, i nie ma duzych
>> wymagan sprzetowych, na malinie bez problemu nawet pojdzie.
>> Warto rozwazyc jak juz ktos wybiera miedzy ZFS a Btrfs.
>
> No właśnie, przy oklazji, może by ktoś obeznany w temacie podeliberował o tym
> zakresie ochrony zfs. Mam spory wolumin na btrs i owszem, wykrywa, że np.
> suma kontrolna się nie zgadza, ale co do ochrony to musiałem sobie odtworzyć
> z backupu. Wolumin 24TB, tak że koszt zrobienie Raid0 odrobinę za duży.
>
> Brakuje mi bardzo jakiegoś FS, który miałby funkcje typu checksum i coś z
> funkcjonalności par2. Ustawiam sobie redundancje na 5%, system mieli sobie
> mozolnie par'y w tle, ale jak skończy i całe stado bit rot'ów i gorszych nie
> straszne.
https://www.backupacademy.pl/system-plikow-zfs/
--
pzdr
Roman
Marcin Debowski
Jun 29, 2021, 8:38:06 PM6/29/21
to
szybko). To co jest wyżej jest opisane w kwestii integralności danych
przypomina mocno co wiem o BTRFS. Tam, dane o plikach (metadata),
włączając sumy kontrolne, są przechowywane osobno. Przykładowo, u
mnie, pliki są w pojedynczej kopii, ale już metadata są w Raid0.
Podobnie, istnieje mechanizm copy-on-write, ale długoterminowo, przy
sporym zapełnieniu woluminu, to nic nie daje, bo nie będą istnieć
nadmiarowe kopie. BTRFS robi scrub'a na podmontowanych dyskach
równiez.
Par2 (parity archive) to jest zaś takie coś, co umożliwia odzyskanie
dowolnych danych z uszkodzonego pliku o ile rozmiar uszkodzenia nie
przekracza przyjętej redundancji.
--
Marcin
Michal Lukasik
Jul 4, 2021, 5:24:42 PM7/4/21
to
On 6/27/21 11:10 PM, pioruns wrote:
> Btrfs dziala rownie dobrze co ZFS z tego co mi wiadomo, i nie ma duzych
> wymagan sprzetowych, na malinie bez problemu nawet pojdzie.
> Warto rozwazyc jak juz ktos wybiera miedzy ZFS a Btrfs.
Fakt. Zwłaszcza, że akurat przypadku Proxmox w wersji 7 BTRFS ma byś
> Btrfs dziala rownie dobrze co ZFS z tego co mi wiadomo, i nie ma duzych
> wymagan sprzetowych, na malinie bez problemu nawet pojdzie.
> Warto rozwazyc jak juz ktos wybiera miedzy ZFS a Btrfs.
obsługiwany OTB (beta już to robi).
Tak przy okazji to inną kwestią jest wydajność COW w przypadku obrazów
dysków, ale to zapewne jest wzięte pod uwagę i do ustawienia - nie wiem
bo jeszcze nie maiłem czasu sam przetestować betę 7.
Michal Lukasik
Jul 4, 2021, 5:40:57 PM7/4/21
to
On 6/30/21 1:38 AM, Marcin Debowski wrote:
> Wydaje mi się, że nie, ale może nie do końca chwytam (przeleciałem na
> szybko). To co jest wyżej jest opisane w kwestii integralności danych
> przypomina mocno co wiem o BTRFS. Tam, dane o plikach (metadata),
> włączając sumy kontrolne, są przechowywane osobno. Przykładowo, u
> mnie, pliki są w pojedynczej kopii, ale już metadata są w Raid0.
> Podobnie, istnieje mechanizm copy-on-write, ale długoterminowo, przy
> sporym zapełnieniu woluminu, to nic nie daje, bo nie będą istnieć
> nadmiarowe kopie. BTRFS robi scrub'a na podmontowanych dyskach
> równiez.
>
> Par2 (parity archive) to jest zaś takie coś, co umożliwia odzyskanie
> dowolnych danych z uszkodzonego pliku o ile rozmiar uszkodzenia nie
> przekracza przyjętej redundancji.
ZFS-Fanboys twierdzą, że ZFS podczas 'data scrubbing' potrafi na
> Wydaje mi się, że nie, ale może nie do końca chwytam (przeleciałem na
> szybko). To co jest wyżej jest opisane w kwestii integralności danych
> przypomina mocno co wiem o BTRFS. Tam, dane o plikach (metadata),
> włączając sumy kontrolne, są przechowywane osobno. Przykładowo, u
> mnie, pliki są w pojedynczej kopii, ale już metadata są w Raid0.
> Podobnie, istnieje mechanizm copy-on-write, ale długoterminowo, przy
> sporym zapełnieniu woluminu, to nic nie daje, bo nie będą istnieć
> nadmiarowe kopie. BTRFS robi scrub'a na podmontowanych dyskach
> równiez.
>
> Par2 (parity archive) to jest zaś takie coś, co umożliwia odzyskanie
> dowolnych danych z uszkodzonego pliku o ile rozmiar uszkodzenia nie
> przekracza przyjętej redundancji.
podstawie sum kontrolnych zdecydować, które dane są prawdziwe i naprawić
błąd.
--
_____ __________________________
\` Y (__) __\` | | | '/
T | | | | \__T = | ! T
Marcin Debowski
Jul 5, 2021, 12:35:42 AM7/5/21
to
On 2021-07-04, Michal Lukasik <mic...@tlenCUT.pl> wrote:
> On 6/30/21 1:38 AM, Marcin Debowski wrote:
>
>> Wydaje mi się, że nie, ale może nie do końca chwytam (przeleciałem na
>> szybko). To co jest wyżej jest opisane w kwestii integralności danych
>> przypomina mocno co wiem o BTRFS. Tam, dane o plikach (metadata),
>> włączając sumy kontrolne, są przechowywane osobno. Przykładowo, u
>> mnie, pliki są w pojedynczej kopii, ale już metadata są w Raid0.
>> Podobnie, istnieje mechanizm copy-on-write, ale długoterminowo, przy
>> sporym zapełnieniu woluminu, to nic nie daje, bo nie będą istnieć
>> nadmiarowe kopie. BTRFS robi scrub'a na podmontowanych dyskach
>> równiez.
>>
>> Par2 (parity archive) to jest zaś takie coś, co umożliwia odzyskanie
>> dowolnych danych z uszkodzonego pliku o ile rozmiar uszkodzenia nie
>> przekracza przyjętej redundancji.
>
> ZFS-Fanboys twierdzą, że ZFS podczas 'data scrubbing' potrafi na
> podstawie sum kontrolnych zdecydować, które dane są prawdziwe i naprawić
> błąd.
Z tym trudno polimeryzować, ale jest jeszcze jedna rzecz przemawiająca przeciwko
> On 6/30/21 1:38 AM, Marcin Debowski wrote:
>
>> Wydaje mi się, że nie, ale może nie do końca chwytam (przeleciałem na
>> szybko). To co jest wyżej jest opisane w kwestii integralności danych
>> przypomina mocno co wiem o BTRFS. Tam, dane o plikach (metadata),
>> włączając sumy kontrolne, są przechowywane osobno. Przykładowo, u
>> mnie, pliki są w pojedynczej kopii, ale już metadata są w Raid0.
>> Podobnie, istnieje mechanizm copy-on-write, ale długoterminowo, przy
>> sporym zapełnieniu woluminu, to nic nie daje, bo nie będą istnieć
>> nadmiarowe kopie. BTRFS robi scrub'a na podmontowanych dyskach
>> równiez.
>>
>> Par2 (parity archive) to jest zaś takie coś, co umożliwia odzyskanie
>> dowolnych danych z uszkodzonego pliku o ile rozmiar uszkodzenia nie
>> przekracza przyjętej redundancji.
>
> ZFS-Fanboys twierdzą, że ZFS podczas 'data scrubbing' potrafi na
> podstawie sum kontrolnych zdecydować, które dane są prawdziwe i naprawić
> błąd.
ZFS, o które czytałem w paru miejscach - ponoć czynności takie jak dodanie
nowych fizycznych urządzeń do woluminu to koszmar.
--
Marcin
0 new messages