Dobór kontrolera RAID10
mariuszad
Nie chcąc się wpakować w kłopoty wolę zasięgnąć opinii fachowców. Za
niedługi czas będę potrzebował macierzy o pojemności ok 1TB. Będą na
niej składowane kopie materiałów AV (DVD) plus inne rzeczy. Chodzi o
przechowywanie kopii bezpieczeństwa materiałów AV wypożyczanych
czytelnikom (biblioteka). Zakup firmowej maszyny na ten cel nie wchodzi
w grę (brak funduszy) Nie musi to też być demon prędkości. Materiały z
macierzy będą pobierane tylko w przypadku awarii oryginalnych nośników i
dodawane w przypadku powiększania się zbiorów (kilkadziesiąt rocznie).
Jak pisałem wcześniej głównie zależy mi na bezpieczeństwie danych. Ze
względów finansowych rozwiązanie na SCSI też nie wchodzi w grę.
Pomyślałem o programowym rozwiązaniu (linux) RAID 10 na dyskach 500 GB
s-ATA II + raid 1 na system + opcjonalnie LVM. Problem mam z doborem
kontrolera s-ATA (płyta główna ASUS NCLV-DS, złączePCI-Z 64-bit). Może
moglibyście doradzić mi sprzęt który nie rzuci finansowo na kolana
biblioteki a będzie się sprawdzał ?
Pozdrawiam
Mariusz
Lech Szychowski
> Za niedługi czas będę potrzebował macierzy o pojemności ok 1TB. Będą
> na niej składowane kopie materiałów AV (DVD) plus inne rzeczy. Chodzi
> o przechowywanie kopii bezpieczeństwa materiałów AV wypożyczanych
> czytelnikom (biblioteka). Zakup firmowej maszyny na ten cel nie
> wchodzi w grę (brak funduszy) Nie musi to też być demon prędkości.
> Materiały z macierzy będą pobierane tylko w przypadku awarii
> oryginalnych nośników i dodawane w przypadku powiększania się zbiorów
> (kilkadziesiąt rocznie).
Przy tak postawionym zadaniu raczej powinieneś się zainteresować
zakupem stada pojedynczych dysków i podłączaniem ich w miarę potrzeby.
Oczywiście każdy materiał powinieneś zapisywać w (przynajmniej)
dwóch kopiach, każdą na innym dysku.
--
Leszek.
-- lec...@gmail.com -- REAL programmers use INTEGERS --
-- speaking just for myself...
mariuszad
> Przy tak postawionym zadaniu raczej powinieneś się zainteresować
> zakupem stada pojedynczych dysków i podłączaniem ich w miarę potrzeby.
Ale do tego też potrzebny jest kontroler .... A uruchomiony LVM nie daje
możliwości "płynnego dodawania" dysków ?
Pozdrawiam
Radoslaw Korzeniewski
Czytam i czytam nie nie mogę zrozumieć czego potrzebujesz. Z jednej
strony chcesz mieć kopię bezpieczeństwa, z drugiej piszesz o raid10. Raid
to nie jest kopia bezpieczeństwa. Do tego usilnie domagasz się wskazania
jakiegoś specjalnego kontrolera (HBA) sata, co tu ma do rzeczy kontroler?
jeśli sam piszesz że nie zależy ci na szybkości a ze względów finansowych
preferujesz raid programowy?
pozdr
R.
Lech Szychowski
> > Przy tak postawionym zadaniu raczej powinieneś się zainteresować
> > zakupem stada pojedynczych dysków i podłączaniem ich w miarę potrzeby.
> Ale do tego też potrzebny jest kontroler ....
Przy współczesnych pojemnościach dysków nie widzę problemu
z użyciem do tego celu tego kontrolera, który już i tak
masz na płycie głównej.
> A uruchomiony LVM nie daje
> możliwości "płynnego dodawania" dysków ?
LVM nie jest tu IMHO potrzebny. Nie potrzebujesz zmiany wielkości
systemów plików (ani urządzeń blokowych pod nimi).
mariuszad
> Czytam i czytam nie nie mogę zrozumieć czego potrzebujesz.
Może źle opisałem moje założenia. Potrzebuję przestrzeni dyskowej do
przechowywania kopii różnych materiałów (w tej chwili część danych
składuję na dysku, część na płytach DVD a część wisi w "niebycie").
Rozwiązania które będzie na tyle bezpieczne, stabilne i szybkie w
dostępie aby zagwarantować mi w razie potrzeby odzyskanie składowanych
lub niedopuszczenie do utraty danych. Stąd sugestia o raidzie.
> Z jednej strony chcesz mieć kopię bezpieczeństwa, z drugiej piszesz o raid10. Raid
> to nie jest kopia bezpieczeństwa.
Co w takim razie proponujesz ? Czy tak jak parę postów wyżej stado
dysków. Jakoś nie widzę tego jako lepsze rozwiązanie... Co przemawiałoby
za takim właśnie rozwiązaniem ? Jeżeli miałbym kopiować te same dane na
2 lub więcej dysków to czy nie lepszym pomysłem jest właśnie raid ?
Do tego usilnie domagasz się wskazania
> jakiegoś specjalnego kontrolera (HBA) sata, co tu ma do rzeczy kontroler?
Jeżeli rozwiązanie oparłbym o dyski S-ata to prędzej czy później aby móc
dodać następne dyski do serwera i tak będę musiał o tym pomyśleć .
> jeśli sam piszesz że nie zależy ci na szybkości a ze względów finansowych
> preferujesz raid programowy?
Według mnie jest to i tak rozwiązanie w miarę przystępnej cenie z które
jeszcze byłbym w stanie przeforsować.
Jeżeli masz jakiś inne rozwiązanie to jak najbardziej rozważę je ...
Pozdrawiam
Mariusz
Tomasz Nowak
Kontroler SATA - jakikolwiek obsługiwany, najlepiej przez drivery
obecne już w linuksie (keyword do googla: "linux sata support").
Ja mam w jednej z maszyn do backupu jakieś dwuportowe gówna z action
typu Mint za 40 zł (oldskul PCI 32bit) i też działają :) 4 portowe
gówna kosztują nieco więcej, jakieś 70 zł. Jak masz jakieś lepsze
PCI, to znajdź sobie jakąś porządniejszą kartę z obsługą SATA 2,
NCQ czy co tam jeszcze marketoidzi wymyślili i sprawdź tylko,
czy jej chipset jest obsługiwany przez Twój kernel.
Jeżeli nie ma to być demon prędkości, to po co Ci raid10?
Raid10 w dodatku nie obsługuje reshapingu. Jeżeli kluczowym
parametrem jest jednak pojemność, to polecam raid5, najlepiej
z hot-sparem. Dyski sata 500GB są po ok 200 zł, kup sobie
4 takie, zrób z trzech raid5 a czwartego daj na hostp-spare
i masz bezpieczny 1TB. Jak będziesz potrzebował zrobić z tego
2TB, to za 200 zł kupisz kolejne dwa dyski 500GB, zrobisz grow
na mdadm, resizefs w filesystemie i po sprawie.
Jeżeli ma to być jeden wielki filesystem, to nie wiem czy jest
potrzeba używania LVM. Jeżeli jednak planujesz robić w tym
jakieś partycje, albo chociaż część tej macierzy użyć
do innych celów, to jak najbardziej LVM polecam.
--
Tomek
Dwie tajemnice gwarantujące sukces:
1. Nikomu nie mów wszystkiego.
Radoslaw Korzeniewski
> Radoslaw Korzeniewski pisze:
>
>> Czytam i czytam nie nie mogę zrozumieć czego potrzebujesz.
> Może źle opisałem moje założenia. Potrzebuję przestrzeni dyskowej do
> przechowywania kopii różnych materiałów (w tej chwili część danych
> składuję na dysku, część na płytach DVD a część wisi w "niebycie").
> Rozwiązania które będzie na tyle bezpieczne, stabilne i szybkie w
> dostępie aby zagwarantować mi w razie potrzeby odzyskanie składowanych
> lub niedopuszczenie do utraty danych. Stąd sugestia o raidzie.
>
OK, jeśli już RAID to nie raid10 tylko raid5.
>
>> Z jednej strony chcesz mieć kopię bezpieczeństwa, z drugiej piszesz o
>> raid10. Raid to nie jest kopia bezpieczeństwa.
> Co w takim razie proponujesz ? Czy tak jak parę postów wyżej stado
> dysków. Jakoś nie widzę tego jako lepsze rozwiązanie... Co przemawiałoby
> za takim właśnie rozwiązaniem ? Jeżeli miałbym kopiować te same dane na
> 2 lub więcej dysków to czy nie lepszym pomysłem jest właśnie raid ?
Tak, proponuję "stado dysków" spiętych w raid5. Będziesz miał
zabezpieczenie na wypadek awarii jednego z dysków, do tego współczynnik
utraconej pojemności na rzecz sum kontrolnych będzie malał wraz ze
wzrostem ilości dysków (1/N), tak więc będzie to bardzo opłacalne.
> Do tego usilnie domagasz się wskazania
>> jakiegoś specjalnego kontrolera (HBA) sata, co tu ma do rzeczy
>> kontroler?
>
> Jeżeli rozwiązanie oparłbym o dyski S-ata to prędzej czy później aby móc
> dodać następne dyski do serwera i tak będę musiał o tym pomyśleć .
>
Kontroler do tego celu dowolny obsługiwany przez Linuksa.
>> jeśli sam piszesz że nie zależy ci na szybkości a ze względów
>> finansowych preferujesz raid programowy?
>
> Według mnie jest to i tak rozwiązanie w miarę przystępnej cenie z które
> jeszcze byłbym w stanie przeforsować. Jeżeli masz jakiś inne rozwiązanie
> to jak najbardziej rozważę je ...
Bo upieranie się w wyborze kontrolera sata dla Linuksa w twoim przypadku
jest bez sensu. Poszukaj dowolnego obsługiwanego - popytaj wujka google,
powinien pomóc.
> Pozdrawiam
> Mariusz
pozdr
R.
Lech Szychowski
> Może źle opisałem moje założenia. Potrzebuję przestrzeni dyskowej do
> przechowywania kopii różnych materiałów (w tej chwili część danych
> składuję na dysku, część na płytach DVD a część wisi w "niebycie").
> Rozwiązania które będzie na tyle bezpieczne, stabilne i szybkie
> w dostępie aby zagwarantować mi w razie potrzeby odzyskanie
> składowanych lub niedopuszczenie do utraty danych. Stąd sugestia
> o raidzie.
RAID to rozwiązanie klasy "high availability", a nie "backup".
> Co w takim razie proponujesz ? Czy tak jak parę postów wyżej stado
> dysków. Jakoś nie widzę tego jako lepsze rozwiązanie... Co
> przemawiałoby za takim właśnie rozwiązaniem ?
Cena, prostota i zabezpieczenie przed utratą danych. Z naciskiem na
to ostatnie.
> Jeżeli miałbym kopiować te same dane na 2 lub więcej dysków to czy
> nie lepszym pomysłem jest właśnie raid ?
RAID plus błąd ludzki równa się brak danych. Kopie danych na dwóch
oddzielnych nośnikach plus błąd ludzki równa się jedna kopia danych na
jednym nośniku. Jedna kopia danych jest znacznie lepsza niż brak
danych.
> Jeżeli rozwiązanie oparłbym o dyski S-ata to prędzej czy później aby
> móc dodać następne dyski do serwera i tak będę musiał o tym pomyśleć
Dlaczego wciąż domagasz się tego, żeby mieć natychmiastowy dostęp do
całości/wysztkich kopii danych? W przedstawionych przez Ciebie
założeniach nie było przecież takiego wymagania.
Z innej beczki: rozważałeś wariant "wysmażam trzy kopie na DVD"?
Krzysztof Halasa
> Tak, proponuję "stado dysków" spiętych w raid5. Będziesz miał
> zabezpieczenie na wypadek awarii jednego z dysków, do tego współczynnik
> utraconej pojemności na rzecz sum kontrolnych będzie malał wraz ze
> wzrostem ilości dysków (1/N), tak więc będzie to bardzo opłacalne.
Tyle ze jesli jednoczesnie padna dwa dyski, to wszystkie dane pojda do
piachu. Dodatkowo ktos np. moze sie pomylic (albo i nie) i zniszczyc
dane. Rozwiazanie raczej gorsze niz lepsze.
Ja rzeczywiscie pozakladalbym po 1 systemie plikow na kazdym
fizycznym dysku i kopiowalbym pliki na dwa rozne dyski jednoczesnie.
Dodatkowo dyski bylyby w kieszeniach, takie kieszenie SATA np. na
kilka dyskow sa zupelnie tanie.
--
Krzysztof Halasa
Radoslaw Korzeniewski
> Radoslaw Korzeniewski <rkorze...@gmail.com> writes:
>
>> Tak, proponuję "stado dysków" spiętych w raid5. Będziesz miał
>> zabezpieczenie na wypadek awarii jednego z dysków, do tego współczynnik
>> utraconej pojemności na rzecz sum kontrolnych będzie malał wraz ze
>> wzrostem ilości dysków (1/N), tak więc będzie to bardzo opłacalne.
>
> Tyle ze jesli jednoczesnie padna dwa dyski, to wszystkie dane pojda do
> piachu. Dodatkowo ktos np. moze sie pomylic (albo i nie) i zniszczyc
> dane. Rozwiazanie raczej gorsze niz lepsze.
Ależ oczywiste, sam to przecież napisałem: "Będziesz miał zabezpieczenie
na wypadek awarii jednego(!) z dysków (...)". :)
> Ja rzeczywiscie pozakladalbym po 1 systemie plikow na kazdym fizycznym
> dysku i kopiowalbym pliki na dwa rozne dyski jednoczesnie. Dodatkowo
> dyski bylyby w kieszeniach, takie kieszenie SATA np. na kilka dyskow sa
> zupelnie tanie.
Ale to także jest zabezpieczenie na wypadek awarii tylko jednego z
dysków, bo jeśli dane skopiujesz na dwa filesystemy/dyski i oba się
zepsują to nie będzie danych. Pomijam fakt że cała ta macierz ma służyć
jako backup istniejących już nośników DVD, więc zabawa w raid1 IMHO nie
ma sensu. Nawet jeśli ktoś skasuje dane z filesystemu czy dyski(!) się
popsują to mamy jednak oryginalne dane na nośnikach DVD. Pamiętajmy także
o ograniczeniach budżetowych pytającego.
R.
Krzysztof Halasa
> Ale to także jest zabezpieczenie na wypadek awarii tylko jednego z
> dysków, bo jeśli dane skopiujesz na dwa filesystemy/dyski i oba się
> zepsują to nie będzie danych.
Ale nie bedzie danych tylko na tych dwoch dyskach, nie na wszystkich.
> Pomijam fakt że cała ta macierz ma służyć
> jako backup istniejących już nośników DVD, więc zabawa w raid1 IMHO nie
> ma sensu.
Pomijasz? :-)
Najprosciej macierz RAID1 1 TB robi sie z 2 dyskow 1 TB. Mozna ja
takze nazwac w pewnym sensie macierza RAID5, taka dosc trywialna :-)
> Nawet jeśli ktoś skasuje dane z filesystemu czy dyski(!) się
> popsują to mamy jednak oryginalne dane na nośnikach DVD.
Jesli zakladamy ze mamy oryginalne dane to po co backup?
Jesli zakladamy mozliwosc skasowania danych z systemu plikow (a musimy
w przypadku macierzy pracujacej non-stop) to moze lepsze beda
pojedyncze dyski (pojedyncze kopie w kieszeniach, wyjmowane).
> Pamiętajmy także
> o ograniczeniach budżetowych pytającego.
Tych nie znamy, choc wiemy ze go stac na RAID10. Jesli tak, to stac go
zapewne takze na dwa komplety dyskow np. w kieszeniach.
--
Krzysztof Halasa
Radoslaw Korzeniewski
> Radoslaw Korzeniewski <rkorze...@gmail.com> writes:
>> Nawet jeśli ktoś skasuje dane z filesystemu czy dyski(!) się popsują to
>> mamy jednak oryginalne dane na nośnikach DVD.
>
> Jesli zakladamy ze mamy oryginalne dane to po co backup? Jesli zakladamy
> mozliwosc skasowania danych z systemu plikow (a musimy w przypadku
> macierzy pracujacej non-stop) to moze lepsze beda pojedyncze dyski
> (pojedyncze kopie w kieszeniach, wyjmowane).
:)
Raczej zakładamy że w tym przypadku nie będziemy mieli jednocześnie:
zniszczenia DVD lub innych materiałów, uszkodzenia dwóch dysków w
macierzy. Wydaje mi się że zaistnienie "jednocześnie" trzech awarii jest
naprawdę niskie i dla pytającego wystarczające do akceptacji. Cytując:
"Potrzebuję przestrzeni dyskowej do przechowywania kopii różnych
materiałów (...)"
>> Pamiętajmy także
>> o ograniczeniach budżetowych pytającego.
>
> Tych nie znamy, choc wiemy ze go stac na RAID10. Jesli tak, to stac go
> zapewne takze na dwa komplety dyskow np. w kieszeniach.
Cytując:
"Może moglibyście doradzić mi sprzęt który nie rzuci finansowo na kolana
biblioteki a będzie się sprawdzał ?"
Wprawdzie to nie jest twarde stwierdzenie i konkretne wskazanie wielkości
budżetu ale ograniczenia ma więc nie szalejmy :).
R.
Krzysztof Halasa
> Raczej zakładamy że w tym przypadku nie będziemy mieli jednocześnie:
> zniszczenia DVD lub innych materiałów, uszkodzenia dwóch dysków w
> macierzy. Wydaje mi się że zaistnienie "jednocześnie" trzech awarii jest
> naprawdę niskie i dla pytającego wystarczające do akceptacji.
Ale zniszczenie DVD i skasowanie danych z macierzy nie jest juz tak
nieprawdopodobne, tak?
Skad wlasnie kopie na 2 dyskach zamiast macierzy.
Macierze sa bardzo dobrym rozwiazaniem wielu problemow - ale innych.
> "Może moglibyście doradzić mi sprzęt który nie rzuci finansowo na kolana
> biblioteki a będzie się sprawdzał ?"
>
> Wprawdzie to nie jest twarde stwierdzenie i konkretne wskazanie wielkości
> budżetu ale ograniczenia ma więc nie szalejmy :).
Ale rozumiesz to, ze dyski do macierzy kosztuja zwykle tyle samo co
dyski nie do macierzy?
--
Krzysztof Halasa
Radoslaw Korzeniewski
> Radoslaw Korzeniewski <rkorze...@gmail.com> writes:
>
>> Raczej zakładamy że w tym przypadku nie będziemy mieli jednocześnie:
>> zniszczenia DVD lub innych materiałów, uszkodzenia dwóch dysków w
>> macierzy. Wydaje mi się że zaistnienie "jednocześnie" trzech awarii
>> jest naprawdę niskie i dla pytającego wystarczające do akceptacji.
>
> Ale zniszczenie DVD i skasowanie danych z macierzy nie jest juz tak
> nieprawdopodobne, tak?
Well... - jak mawiają rodowici polacy. Generalnie to do tego celu
korzystanie z macierzy jest bez sensu - jeśli to płyty DVD to najlepszym
ich backupem jest inna płyta DVD - tanie to teraz niemiłosiernie.
Podstawową wadą robienia backupu na dyski twarde jest bardzo ograniczona
mobilność takiego rozwiązania i nie bez trudu można sobie wyobrazić (w
mojej ocenie tak samo prawdopodobne jak twój scenariusz) zniszczenie
jednocześnie DVD i komputera z backupem, a żebyś się nie czepiał to dane
były nagrane twoją metodą :). I co wtedy - ani macierz raid5 ani
kopiowanie na poszczególne dyski nie uchronią nas przez utratą. Takich
scenariuszy możemy tworzyć dowolną ilość i za każdym razem możemy wykazać
że zaproponowane rozwiązanie nie jest wystarczające. A swoją drogą to
przed przypadkowym skasowaniem danych można zabezpieczyć się montując
filesystem w ro - oczywiście jak ktoś pojedzie dd po urządzeniu to nic to
nie da :), itp. itd.
> Skad wlasnie kopie na 2 dyskach zamiast macierzy.
>
> Macierze sa bardzo dobrym rozwiazaniem wielu problemow - ale innych.
Dlatego bakupy powinny finalnie znajdować się nie na dyskach twardych ale
na płytach czy taśmach bo od tego są.
>> "Może moglibyście doradzić mi sprzęt który nie rzuci finansowo na
>> kolana biblioteki a będzie się sprawdzał ?"
>>
>> Wprawdzie to nie jest twarde stwierdzenie i konkretne wskazanie
>> wielkości budżetu ale ograniczenia ma więc nie szalejmy :).
>
> Ale rozumiesz to, ze dyski do macierzy kosztuja zwykle tyle samo co
> dyski nie do macierzy?
Proponowana przeze mnie macierz RAID5 jest znacznie tańsza od
proponowanej przez ciebie metody "na raid1", i to tym bardziej tańsza im
więcej dysków będziesz potrzebował.
R.
Krzysztof Halasa
> Well... - jak mawiają rodowici polacy. Generalnie to do tego celu
> korzystanie z macierzy jest bez sensu - jeśli to płyty DVD to najlepszym
> ich backupem jest inna płyta DVD - tanie to teraz niemiłosiernie.
Ale malo wygodne i niepewne, dodatkowo sprawia trudnosci w weryfikacji
po jakims czasie (przetestuj 500 plyt).
> Podstawową wadą robienia backupu na dyski twarde jest bardzo ograniczona
> mobilność takiego rozwiązania
Potrzebna jak dziura w moscie.
> i nie bez trudu można sobie wyobrazić (w
> mojej ocenie tak samo prawdopodobne jak twój scenariusz) zniszczenie
> jednocześnie DVD i komputera z backupem, a żebyś się nie czepiał to dane
> były nagrane twoją metodą :).
Jesli jest cos takiego jak "komputer z backupem". Stad kieszenie,
wtedy zniszczenie komputera nie szkodzi dyskom (ew. szkodzi akurat
temu, ktory byl w komputerze, ale innym nie).
A przy RAIDzie - kanal totalny.
> Takich
> scenariuszy możemy tworzyć dowolną ilość
Ale liczy sie nie ilosc lecz ich sens.
> A swoją drogą to
> przed przypadkowym skasowaniem danych można zabezpieczyć się montując
> filesystem w ro
No jasne, zwlaszcza w czasie gdy jest to uzywane (a backup jest zwykle
uzywany wlasnie do zapisu).
> Dlatego bakupy powinny finalnie znajdować się nie na dyskach twardych ale
> na płytach czy taśmach bo od tego są.
Tyle ze zarowno plyty jak i tasmy sa duzo bardziej problematyczne
w dostepie. Poza tym, tasma (w tym zastosowaniu) jest jednak troche
drozsza. Natomiast czas "zycia" danych na zdublowanych dyskach jest
jednak lepszy niz w przypadku tasm i plyt.
W moim odczuciu wielkimi zwolennikami tasm sa glownie ci, ktorzy nigdy
ich nie uzywali (oraz ew. sprzedawcy). Natomiast zwolennicy backupu na
DVD to chyba jakas inna bajka, nie z tej rzeczywistosci.
Kiedys tasmy byly nieuniknione (backup dyskowy kosztowalby majatek),
ale teraz wyglada to nieco inaczej.
> Proponowana przeze mnie macierz RAID5 jest znacznie tańsza od
> proponowanej przez ciebie metody "na raid1", i to tym bardziej tańsza im
> więcej dysków będziesz potrzebował.
RAID5 jest tu w ogole bez sensu, gdyz pad dwoch dyskow niszczy
wszystkie dane jakie w ogole mielismy. W odroznieniu od normalnej
sytuacji, tu pad jednego lub wiecej dyskow moze pozostawac
niezauwazony przez dlugi czas.
Ale RAID1 takze jest bez sensu, ze wzgledu na nieodpornosc na bledy
np. ludzkie albo innego systemu. Ja nie proponuje RAID1.
--
Krzysztof Halasa
Krzysztof Drewicz
> Ale malo wygodne i niepewne, dodatkowo sprawia trudnosci w weryfikacji
> po jakims czasie (przetestuj 500 plyt).
>
> DVD to chyba jakas inna bajka, nie z tej rzeczywistosci.
Jeśli w małym, low-endowym, serwerku, masz mniej niż 4 GB danych (i to z
planem na następne 3 lata) to DVD+RW jest przyjemne. Pani zosia co dzień
zmienia płytkę i tyle, na płytce kilkadziesiąt plików zip. Większość
małych firm zmieści swoje critical data na 4.7 GB. No, ale wachlowanie
płytami, to mi już śmierdziało gdy trzeba było w XC12 przełożyć kasetę
na drugą stronę, toż to proszenie się o kłopoty i problemy typu "widział
ktoś płytę nr X?".
> Kiedys tasmy byly nieuniknione (backup dyskowy kosztowalby majatek),
> ale teraz wyglada to nieco inaczej.
Raczej, zupełnie inaczej. Ile masz danych "nowych" których nie możesz w
nocy/w weekend przepchać przez przyzwoite łącze DSL? Rozwiązanie tanie i
przyjemne, jeśli o "backup" chodzi. Przy okazji zyskujesz bezpieczeństwo
w postaci innej, geograficznie, lokalizacji z danymi.
> RAID5 jest tu w ogole bez sensu, gdyz pad dwoch dyskow niszczy
> wszystkie dane jakie w ogole mielismy.
RAID5EE oferowany przez dobre kontrolery w serwerkach IBMa? Dyski spare?
Ale oczywiście, nie dla zastosowań opisanych tutaj. Nawet LVM tutaj jest
kiepskim pomysłem.
> Ale RAID1 takze jest bez sensu, ze wzgledu na nieodpornosc na bledy
> np. ludzkie albo innego systemu. Ja nie proponuje RAID1.
Z życia wzięty mechanizm jakiego się dopracowaliśmy w "małej lokalnej
gazetce" to dysk sieciowy (taka przerośnięta kieszeń na hdd, z portem
LAN) rozmawiający Sambą i FTP. Co weekend, jakiś stacjonarny PC robił
kopię całości tego dysku, leżą tam głównie zdjęcia, drafty artykułów,
jakieś pliczki PDF/PS. Nie jest to przesadnie drogie, a miejsca sporo.
Gdy się skończy to do tego dysku można dopiąć jeszcze 2 zwykłe kieszenie
USB.
kd,
--
Krzysztof Drewicz
Podsłuchane na pogrzebie: "Wiem, że to niezręcznie pytać o takie rzeczy w tej
chwili, ale przypominasz sobie, żeby on kiedykolwiek wspomniał coś o kodzie
źródłowym?" --- Charles Addams
Konrad Kosmowski
> Witam Nie chcąc się wpakować w kłopoty wolę zasięgnąć opinii fachowców. Za
> niedługi czas będę potrzebował macierzy o pojemności ok 1TB. Będą na niej
> składowane kopie materiałów AV (DVD) plus inne rzeczy. Chodzi o
> przechowywanie kopii bezpieczeństwa materiałów AV wypożyczanych czytelnikom
> (biblioteka).
Czyli tak naprawdę jeżeli chcesz mówić o backupie to musisz przechowywać
*kopię*. Tego co wydałeś użytkownikowi nie możesz traktować jako kopii bo
bardziej prawdopodobne niż pad dysku czy innego nośnika jest, że ten użytkownik
czy jego kot to porysuje, zgubi czy po prostu nie odda.
RAID nie jest żadną kopią - to operuje na innym poziomie niż pliki. W sensie,
że jak niechcąco czy z innych powodów Ci się plik skasuje to rolą RAID jest te
zmiany synchronicznie zastosować na każdym dysku w macierzy. :)
W zasadzie to jest problem organizacyjny. Powinieneś wprowadzić procedurę -
przy rejestrowaniu nowych materiałów (no bo przecież jeżeli to biblioteka to
musi być jakiś proces rejestrowania/przyjmowania?) należy:
1. Wykonać obraz oryginału na serwer.
2. Wykonać kopię oryginału na nośnik optyczny.
3. Użytkownikom wydawać kopię (drugi nośnik optyczny), a oryginalne nośniki
składować w specjalnie przystosowanym do tego pomieszczeniu/szafie w możliwie
najbardziej sprzyjających warunkach.
4. Okresowo np. co kwartał weryfikować czy kopie nadal są ze sobą zgodne.
Jeżeli masz jakiś system wydawania/odbierania materiałów to można to wpleść w
ten proces. Np. przy odbiorze materiału jeżeli nie był on sprawdzany przez
więcej niż N miesięcy to sprawdzić i odnotować wynik.
Tak jak jest w wypożyczalniach video/DVD (o ile jeszcze istnieją) - na półkach
są tylko pudełka, jak chcesz wypożyczyć to niesiesz pudełko do lady i tam Ci
wydają kopię nośnika macierzystego.
> Zakup firmowej maszyny na ten cel nie wchodzi w grę (brak funduszy)
A co wchodzi w grę? Firmowe maszyny w dłuższym rozrachunku wcale nie wychodzą
drożej niż coś gdzie się zbytnio oszczędzało.
> Nie musi to też być demon prędkości. Materiały z macierzy będą pobierane
> tylko w przypadku awarii oryginalnych nośników i dodawane w przypadku
> powiększania się zbiorów (kilkadziesiąt rocznie).
No i pominąłeś bardzo istotny aspekt backupu czyli weryfikację. Częsty błąd.
Ludzie robią backup nie sprawdzając czy działa, jak jest katastrofa to okazuje
się, że nie działa. Tyle, że to jest zbyt późno.
> Jak pisałem wcześniej głównie zależy mi na bezpieczeństwie danych.
To kopiuj, kopiuj, kopiuj - im więcej autonomicznych kopii tym większe szanse,
że jakaś przetrwa jakiś kataklizm. W przypadku Twojej operacji to wręcz jest
oczywiste, że wypożyczone materiały będą zwracane w złym stanie czy wcale.
> Ze względów finansowych rozwiązanie na SCSI też nie wchodzi w grę.
> Pomyślałem o programowym rozwiązaniu (linux) RAID 10 na dyskach 500 GB s-ATA
> II + raid 1 na system + opcjonalnie LVM. Problem mam z doborem kontrolera
> s-ATA (płyta główna ASUS NCLV-DS, złączePCI-Z 64-bit). Może moglibyście
> doradzić mi sprzęt który nie rzuci finansowo na kolana biblioteki a będzie
> się sprawdzał ?
Ja bym bardziej szedł w kierunku LVM+AHCI do tego kilka (3+) dysków SATA 750GB
dedykowanych do pracy w konfiguracjach RAID (Seagate polecam, mają specjalna
linię). Do tego jakiś lowendowy firmowy (może byc i Actina, może mają zniżki
dla bibliotek itp.) serwer co te dyski pomieści. No i płyta główna z chipsetem
wspierającym ACPI.
Do tego (jeżeli to ma stać w jakimś dziwnym miejscu) koniecznie dobry UPS. No i
dodatkowo dedykowana stacja do wykonywania/weryfikowania kopii (z tego da się
wyskryptować w kilka nocy robiąc automat) podłączona via sieć (najlepiej już
1GB).
Wiesz może to brzmi jakoś przesadnie ale jeżeli chcesz mieć backup to chcesz
mieć backup.
--
+ ' .-. .
, * ) )
http://kosmosik.net/ . . '-' . kK
Konrad Kosmowski
> Pomijam fakt że cała ta macierz ma służyć jako backup istniejących już
> nośników DVD [...] jeśli ktoś skasuje dane z filesystemu czy dyski(!) się
> popsują to mamy jednak oryginalne dane na nośnikach DVD.
Albo nie mamy bo zostały wypożyczone, a wypożyczający je pogryzł. ;) Sorry
wypożyczonego nośnika w żadnym wypadku nie traktowałbym jako backup. ;)
> Pamiętajmy także o ograniczeniach budżetowych pytającego.
No niestety albo się ma w miarę skuteczny backup albo się go nie ma. Jakiś
określony koszt będzie. Jeżeli pytający nie będzie w stanie ponieść tego kosztu
to nie będzie miał backupu. Tutaj to akurat kwestia kalkulacji strat/zysków
płynących związanych z szacowanym ryzykiem danego rozwiązania. No a poziom
bezpieczeństwa danego rozwiązania jest bezpośrednio związany z poniesionymi
kosztami. Pod warunkiem, że się to robi sensownie/zgodnie ze sztuką.
Konrad Kosmowski
Radoslaw Korzeniewski
Ty mnie. Ergo - dalsza dyskusja jest bez sensu i może co najwyżej
doprowadzić do klasycznych w usenecie wycieczek osobistych :)
Radek.
Dnia Thu, 08 May 2008 21:27:32 +0200, Krzysztof Halasa napisał(a):
> Radoslaw Korzeniewski <rkorze...@gmail.com> writes:
>
>> Well... - jak mawiają rodowici polacy. Generalnie to do tego celu
>> korzystanie z macierzy jest bez sensu - jeśli to płyty DVD to
>> najlepszym ich backupem jest inna płyta DVD - tanie to teraz
>> niemiłosiernie.
>
> Ale malo wygodne i niepewne, dodatkowo sprawia trudnosci w weryfikacji
> po jakims czasie (przetestuj 500 plyt).
To przetestuj 500 płyt oryginalnych - i tak musisz machać płytami i tak.
>> Podstawową wadą robienia backupu na dyski twarde jest bardzo
>> ograniczona mobilność takiego rozwiązania
>
> Potrzebna jak dziura w moscie.
Potrzebna, sam ją proponujesz poprzez kieszenie.
>
>> i nie bez trudu można sobie wyobrazić (w mojej ocenie tak samo
>> prawdopodobne jak twój scenariusz) zniszczenie jednocześnie DVD i
>> komputera z backupem, a żebyś się nie czepiał to dane były nagrane
>> twoją metodą :).
>
> Jesli jest cos takiego jak "komputer z backupem". Stad kieszenie, wtedy
> zniszczenie komputera nie szkodzi dyskom (ew. szkodzi akurat temu, ktory
> byl w komputerze, ale innym nie).
>
> A przy RAIDzie - kanal totalny.
O ile ktokolwiek będzie te kieszenie wyjmował - jak już czepiamy sie
błędów ludzkich, to będzie to klasyczny błąd, więc nie ma różnicy czy
będą to niewyjmowane (pomimo możliwości) dyski czy raid.
>
>> Takich
>> scenariuszy możemy tworzyć dowolną ilość
>
> Ale liczy sie nie ilosc lecz ich sens.
>
Ale każdy z nich jest tak samo prawdopodobny i sensowny, można o tym
dowolnie długo dyskutować i nie osiągnąć konsesusu.
>> A swoją drogą to
>> przed przypadkowym skasowaniem danych można zabezpieczyć się montując
>> filesystem w ro
>
> No jasne, zwlaszcza w czasie gdy jest to uzywane (a backup jest zwykle
> uzywany wlasnie do zapisu).
>
Ale jak robisz backup praktycznie niezmienialnej płyty DVD (takie było
założenie w pierwszym poście) to jednocześnie przez przypadek kasujesz
dane? To może należało by wymienić admina na lepszego aby mniej psuł?
>> Proponowana przeze mnie macierz RAID5 jest znacznie tańsza od
>> proponowanej przez ciebie metody "na raid1", i to tym bardziej tańsza
>> im więcej dysków będziesz potrzebował.
>
> RAID5 jest tu w ogole bez sensu, gdyz pad dwoch dyskow niszczy wszystkie
> dane jakie w ogole mielismy. W odroznieniu od normalnej sytuacji, tu pad
> jednego lub wiecej dyskow moze pozostawac niezauwazony przez dlugi czas.
Zawsze wypowiadałeś się zwięźle i z argumentami (mając w pamięci posty w
usenecie jakie czytałem), teraz jednak pojechałeś.
Na twardy argument co do kosztów rozwiązania raid5 vs "twoje rozwiązanie
ala raid1" odpowiadasz że to bez sensu? Czy mi się wydaje, czy to nie Ty
podniosłeś argument że dyski w obu rozwiązaniach kosztują tyle samo?
>
> Ale RAID1 takze jest bez sensu, ze wzgledu na nieodpornosc na bledy np.
> ludzkie albo innego systemu. Ja nie proponuje RAID1.
Jakie "błędy ludzkie"? dowolne? Klasyczne błędy ludzkie jakie w
proponowanym przez Ciebie rozwiązaniu będą występowały:
- zrobienie backupu tylko na jeden dysk/filesystem zamiast na dwa i
przypadkowe skasowanie tego backupu
- notorycznie pozostawianie dysków w komputerze z backupem i zniszczenie/
pożar takiego komputera
- ręczne zarządzanie dostępną przestrzenią na wkładanych i montowanych
ręcznie dyskach
- w skrajnym przypadku może okazać się że sumarycznie dostępna
przestrzeń jest wystarczająca a w kawałkach backupu zrobić się nie da
- przypadkowe skasowanie danych z obu dysków (pamiętaj o ręcznym
zarządzaniu plikami backupowymi)
- i inne...
Oczywiście wszystkie one tak samo mogą pojawić się i w rozwiązaniu z
raid5, przez co ani nie są przeciwko raid5 ani przeciwko twojej metodzie.
Wydaje się że pytający powinien sobie wypróbować obu metod. Jeśli któraś
mu podpasuje to niech sobie z niej korzysta.
pozdr
Radek
Radoslaw Korzeniewski
> BTW aż dziwne, że nikt się jeszcze o ZFS nie zająknął. Ale w końcu grupa
> linuksowa. ;)
Może dlatego :)
R.
Konrad Kosmowski
> To przetestuj 500 płyt oryginalnych - i tak musisz machać płytami i tak.
Well możesz oddelegować "machanie płytami" do kogoś kto je przyjmuje od
klientów. Tak jak sugerowałem zintegrować to np. z bazą danych tego co było
wypożyczane i jak ktoś oddaje płytę, która nie była weryfikowana przez N
miesięcy to pracownikowi wyświetla się, że ma tę płytę zweryfikować i
*potwierdzić* (np. pokwitować w odpowiedniej książce), że to wykonał i jaki był
wynik.
Krzysztof Halasa
> Jeśli w małym, low-endowym, serwerku, masz mniej niż 4 GB danych (i to z
> planem na następne 3 lata) to DVD+RW jest przyjemne.
Przy takim zalozeniu, moze tak.
> Raczej, zupełnie inaczej. Ile masz danych "nowych" których nie możesz w
> nocy/w weekend przepchać przez przyzwoite łącze DSL? Rozwiązanie tanie i
> przyjemne, jeśli o "backup" chodzi. Przy okazji zyskujesz bezpieczeństwo
> w postaci innej, geograficznie, lokalizacji z danymi.
Ale to ma sie nijak do problemu - nie chodzi o miejsce, gdzie to ma
byc skladowane chyba, tylko o sposob.
>> RAID5 jest tu w ogole bez sensu, gdyz pad dwoch dyskow niszczy
>> wszystkie dane jakie w ogole mielismy.
>
> RAID5EE oferowany przez dobre kontrolery w serwerkach IBMa? Dyski
> spare?
Oczywiscie, dyski spare sa tylko po to, by szybko odbudowac macierz -
ale nie po padzie dwoch (aktywnych) dyskow. No i oczywiscie problem
(pojedynczego) bledu uzytkownika.
> Ale oczywiście, nie dla zastosowań opisanych tutaj. Nawet LVM tutaj jest
> kiepskim pomysłem.
Jest tu po prostu zbedny.
> Z życia wzięty mechanizm jakiego się dopracowaliśmy w "małej lokalnej
> gazetce" to dysk sieciowy (taka przerośnięta kieszeń na hdd, z portem
> LAN) rozmawiający Sambą i FTP. Co weekend, jakiś stacjonarny PC robił
> kopię całości tego dysku, leżą tam głównie zdjęcia, drafty artykułów,
> jakieś pliczki PDF/PS. Nie jest to przesadnie drogie, a miejsca sporo.
> Gdy się skończy to do tego dysku można dopiąć jeszcze 2 zwykłe kieszenie
> USB.
Moze tak byc, tylko gdzie robil ta kopie? Stale na tym samym nosniku?
To jest pewien problem, wyobraz sobie ze piorun p* w instalacje i
wszystko do niej podpiete sie popali. Mialem tak kiedys, nawet
wylaczony sprzet (mechanicznymi wylacznikami, wtedy nie bylo jeszcze
ATX) zostal zniszczony (czesciowo, akurat dyski nie). Na obudowach
wylacznikow byly slady łuków elektrycznych.
--
Krzysztof Halasa
Krzysztof Halasa
> Widzę że ani ja nie przekonam Ciebie do mojej propozycji ani tym bardziej
> Ty mnie. Ergo - dalsza dyskusja jest bez sensu i może co najwyżej
> doprowadzić do klasycznych w usenecie wycieczek osobistych :)
Ja nie widze takiej prawidlowosci ale nic to.
>> Ale malo wygodne i niepewne, dodatkowo sprawia trudnosci w weryfikacji
>> po jakims czasie (przetestuj 500 plyt).
>
> To przetestuj 500 płyt oryginalnych - i tak musisz machać płytami i
> tak.
Bez zartow - czym innym jest skopiowanie 500 plyt w ciagu jakiegos tam
dlugiego czasu (np. po 10 tygodniowo w pierwszej fazie), a czym innym
okresowa - np. cotygodniowa - weryfikacja wszystkich plyt (kazda w
dwoch kopiach).
Po prostu DVD nie nadaje sie do backupow terabajtowych.
>>> Podstawową wadą robienia backupu na dyski twarde jest bardzo
>>> ograniczona mobilność takiego rozwiązania
>>
>> Potrzebna jak dziura w moscie.
>
> Potrzebna, sam ją proponujesz poprzez kieszenie.
Albo rozumiemy rozne rzeczy przez mobilnosc, albo kieszenie nie sa dla
zapewnienia mobilnosci, tylko dla zabezpieczenia backupow np. w sejfie.
> O ile ktokolwiek będzie te kieszenie wyjmował - jak już czepiamy sie
> błędów ludzkich, to będzie to klasyczny błąd, więc nie ma różnicy czy
> będą to niewyjmowane (pomimo możliwości) dyski czy raid.
Tylko w przypadku wadliwego projektu. Przeciez wystarczy podpiac tylko
jedna kieszen do zasilania i SATA/itp.
Wlasciwie lepiej byloby kupic pojedyncze kieszenie (i w tym przypadku
zamontowac tylko jedna w komputerze) - niestety pojedyncze kieszenie
sa zwykle gorszej jakosci (np. mechanicznie), przynajmniej zawsze jak
ogladalem to tak bylo.
> Ale każdy z nich jest tak samo prawdopodobny i sensowny, można o tym
> dowolnie długo dyskutować i nie osiągnąć konsesusu.
Tylko w przypadku zlej woli. To nie sa rzeczy, ktorych nie mozna
obiektywnie ocenic.
> Ale jak robisz backup praktycznie niezmienialnej płyty DVD (takie było
> założenie w pierwszym poście) to jednocześnie przez przypadek kasujesz
> dane? To może należało by wymienić admina na lepszego aby mniej
> psuł?
Jesli masz admina, ktory nigdy nic na pewno nie zepsuje (nie wiem czy
admin ma sie zajmowac robieniem backupow) to gratuluje. Uzywam
komputerow od pewnego czasu, a RAIDow itd. od kilkunastu lat, i
niestety co jakis czas zdaza mi sie cos zepsuc.
Ja to tlumacze sobie tak, ze wazne by umiec naprawic, ale oczywiscie
to moze byc taka moja unikalna wada.
>> RAID5 jest tu w ogole bez sensu, gdyz pad dwoch dyskow niszczy wszystkie
>> dane jakie w ogole mielismy. W odroznieniu od normalnej sytuacji, tu pad
>> jednego lub wiecej dyskow moze pozostawac niezauwazony przez dlugi czas.
>
> Zawsze wypowiadałeś się zwięźle i z argumentami (mając w pamięci posty w
> usenecie jakie czytałem),
Staram sie.
> teraz jednak pojechałeś.
Cos wiecej?
> Na twardy argument co do kosztów rozwiązania raid5 vs "twoje rozwiązanie
> ala raid1" odpowiadasz że to bez sensu? Czy mi się wydaje, czy to nie Ty
> podniosłeś argument że dyski w obu rozwiązaniach kosztują tyle samo?
Ale ja nie kwestionuje tego ze RAID5 jest tanszy. To jest w ogole
najtansze ze wszystkich rozwiazanie, pomijajac RAID0. Tyle ze RAID5
nie nadaje sie tu w roli sensownego backupu.
Wiesz, to sa rzeczy wzgledne. Dawno temu pewnie bylbym zadowolony
mogac miec wszystko na RAID5 (bez backupu). Tyle ze teraz dysk SATA
1 GB (jakis sensowny) kosztuje (zgaduje) 600 zl + VAT i bawienie sie
w RAID5 zwlaszcza w takim zastosowaniu jest po prostu zawracaniem
glowy.
>> Ale RAID1 takze jest bez sensu, ze wzgledu na nieodpornosc na bledy np.
>> ludzkie albo innego systemu. Ja nie proponuje RAID1.
>
> Jakie "błędy ludzkie"? dowolne? Klasyczne błędy ludzkie jakie w
> proponowanym przez Ciebie rozwiązaniu będą występowały:
> - zrobienie backupu tylko na jeden dysk/filesystem zamiast na dwa i
> przypadkowe skasowanie tego backupu
Tracicz wtedy 1 plyte. Ale przed tym bledem uchronia Cie sensownie
wymyslone procedury, z ktorych czesc to np. comiesieczna weryfikacja
MD5 albo innych SHA-1 wszystkich zbiorow. Automatyczna weryfikacja,
czlowiek ma tylko odpowiedni dyski wkladac (rozpoznawanie po
numerach seryjnych).
> - notorycznie pozostawianie dysków w komputerze z backupem i zniszczenie/
> pożar takiego komputera
Jesli podpieta bedzie (w tym przypadku) 1 kieszen to ten problem nie
wystepuje. Osobiscie uzywam rozwiazan z 2 kieszeniami, przy nieco
innym schemacie (choc takze sensownym).
> - ręczne zarządzanie dostępną przestrzenią na wkładanych i montowanych
> ręcznie dyskach
Dysk pelny -> uzyj nastepnego. Wielki problem, skrypty takie cos
potrafia robic bez trudu.
Wez pod uwage, ze mowimy tu o kilku dyskach, a moze o dwoch (z
identyczna zawartoscia).
> - w skrajnym przypadku może okazać się że sumarycznie dostępna
> przestrzeń jest wystarczająca a w kawałkach backupu zrobić się nie
> da
GOTO sklep. Nihil novi.
> - przypadkowe skasowanie danych z obu dysków (pamiętaj o ręcznym
> zarządzaniu plikami backupowymi)
Weryfikacja znajdzie.
> - i inne...
Czekam na konkrety.
Oczywiscie, sa takie: pozar calego budynku. Kradziez. Dywersja.
Z roznymi zagrozeniami walczy sie roznymi sposobami, trzeba najpierw
te pierwsze okreslic. No i jest oczywiscie kwestia ekonomiczna.
> Oczywiście wszystkie one tak samo mogą pojawić się i w rozwiązaniu z
> raid5, przez co ani nie są przeciwko raid5 ani przeciwko twojej
> metodzie.
Gdyby tak bylo, bylyby (co chyba logiczne?) przeciwko obu metodom.
> Wydaje się że pytający powinien sobie wypróbować obu metod. Jeśli któraś
> mu podpasuje to niech sobie z niej korzysta.
Typowy blad, to nijak nie dziala jesli ktos nie jest w stanie ocenic
uzywanego rozwiazania.
Jakas tam firma zarabia 200 kzl miesiecznie i od ilus tam lat uzywa
oddzielnych "stanowisk z Windows", nie ma tam zadnych np. uprawnien,
serwerow, backupow itd. Krytyczne dane nie sa nigdzie zduplikowane.
I to im sie "sprawdza", bo nieliczne przypadki awarii (i np. utraty
wszystkich danych z konkretnej maszyny) nie trafily akurat w wazny
okres, fakt, szlag trafil dane oddane klientom, ale jest duza szansa
ze nie beda juz potrzebne.
--
Krzysztof Halasa