HILFE! RAID 5 nach Power-Reset kaputt

Zitat

Original von pbriesch
Jetzt wird jede Stunde sda auf sdb geklont (dd ist wohl der Befehl dafür).

Nette Idee, aber vergiss das ganz schnell wieder. Mit dd klonst Du die gesamte Platte. Das dauert bei 80GB auch gut und gerne eine Stunde.
Dazu kommt das Konsistenzproblem, das Dir schon aufgefallen ist: damit das Filesystem nicht beschaedigt wird, darf waehrend der Kopie niemand schreibend darauf zugreifen. Und das fuer eine Stunde?
Kurz: Vergiss es!
Nimm rsnapshot, lasse vor dem Backup ein kleines Skript laufen, dass Dir mit dd die ersten 32MB von sda auf sdb kopiert und gut ist.

Im Desasterfall musst Du dann halt "nur noch" die Dateien aus dem Backupverzeichnis kopieren kannst loslegen.

Zitat

Original von knebb
nimm rsnapshot, lasse vor dem Backup ein kleines Skript laufen, dass Dir mit dd die ersten 32MB von sda auf sdb kopiert und gut ist.

Wieso 32MB ? Der Bootsector würde doch reichen.

Zitat

Original von glotzipapa
Wieso 32MB ? Der Bootsector würde doch reichen.

Ja, stimmt. So faehrt man auf Nummer sicher und hat Bootsektor, Partitionstabelle (und mit Glueck auch /boot) dabei. Ja, 1MB sollte IMHO auch reichen.

Zitat

Original von pbriesch
knebb: In Deiner Signatur steht immer noch RAI 5 + LVM

Ehm- wie meinen? Ja, das steht da. Ist ja auch so. Die Datenpartition liegt auf RAID5 Arrays
1x 8port 3Ware mit 4x400 und 4x500HDD fuer /video und anderes (Bilder, Updates etc.)
1x 4port 3Ware mit 4x250 (die ist RAID10 und dient als VMFS Volume fuer meinen ESX.
Ueber beide haengt ein LVM drueber. Das LV, das auf dem RAID10 liegt, ist als iSCSI device fuer den ESX exportiert.
In dem ESX laeuft ein RAID1 aus zwei Platten (HP DL360) lokal.

Zitat

Original von pbriesch
nachdem ich meine Daten auf eine externe Festplatte kopiert hatte, habe ich die "faulty removed" Partition wieder ans RAID5 gehangen. Und siehe da, sie fing gleich mit dem resyncen an.
Danach dann wieder ganz normal Ubuntu von Platte gebootet --> Alles wieder OK.

Heisst aber nicht das die platte wirklich ok is.
Check auch mal SMART oder hör dir die platte einfach genau an.
Wenn die platte auffällig ist kannst du schon mal ne spare platte dranhängen zur vorsicht.
Mir ist auch am wochenende eine platte aus'm raid gekippt, die "klang" aber echt schon unnormal (eindeutig defektes plattenlager).
Ich hätte die platte einfach wieder reinnehmen können, da der zugriff nach einem reboot auf die nicht-raid partitionen auf der platte wieder ging, war mir aber zu gefährlich. Radi war nur degraded aber noch einsatzbereit.

Also erst mal ersatzplatte aus der "bastelkiste" als spare dran und resyncen lassen.
Neue platte bestellt, eingebaut und ins raid als spare zugefügt.
"Alte" spare platte als faulty markiert, sodass die neue platte resynced wird und anschliessend die "bastelkistenplatte" removed und anschliessend wieder als erneut als spare drangehängt. Jetzt noch hdparm -S xx auf die spare und die hält normalerweise jetzt die klappe (bis zu nächsten resync).
Fällt mir jetz noch mal eine aus resynct er auf die spare-platte von selber.

gruss Peter

Kurz und Knapp:

Backups gehören auch regelmässig mal extern. Was nützt dir dein Raid und die USV wenn das NT eine Überspannung hat oder der Controller die Platten frisst? Ich würde das RAID lassen und wöchentlich mal die Daten auslagern.

Zitat

Original von devzero
Backups gehören auch regelmässig mal extern

... und je nach sicherheitsbedürfniss in schweizer alpenstollen ausgelagert

Egal welche backup stategie man hat, McMurphy wird dir beweisen, dass du nicht an alles gedacht hast.

Peter

Hi

So, nun hat's mich auch erwischt: 4er Raid5 die ersten beiden Platten irgendwie defekt.

cat /proc/mdstat:

Zitat

Personalities : [linear] [raid0] [raid1] [raid10] [raid6] [raid5] [raid4] [multipath] [faulty] md0 : inactive sdd1[2](S) sde1[4](S) sdc1[1](S) sdb1[0](S) 1953406928 blocks super 1.0

for f in b c d e; do mdadm --examine /dev/sd${f}1; done

Zitat

/dev/sdb1:
Magic : a92b4efc
Version : 1.0
Feature Map : 0x1
Array UUID : aa22f254:96a2c8f8:2e3ca766:aeaf2fa9
Name : 0
Creation Time : Sat Feb 28 11:38:08 2009
Raid Level : raid5
Raid Devices : 4

Avail Dev Size : 976703464 (465.73 GiB 500.07 GB)
Array Size : 2930109696 (1397.19 GiB 1500.22 GB)
Used Dev Size : 976703232 (465.73 GiB 500.07 GB)
Super Offset : 976703720 sectors
State : clean
Device UUID : 18d17985:0f3ab439:475f7747:8c21a65e

Internal Bitmap : -234 sectors from superblock
Update Time : Sat Jun 12 09:40:42 2010
Checksum : b065cc92 - correct
Events : 197

Layout : left-symmetric
Chunk Size : 128K

Device Role : Active device 0
Array State : A.AA ('A' == active, '.' == missing)
/dev/sdc1:
Magic : a92b4efc
Version : 1.0
Feature Map : 0x1
Array UUID : aa22f254:96a2c8f8:2e3ca766:aeaf2fa9
Name : 0
Creation Time : Sat Feb 28 11:38:08 2009
Raid Level : raid5
Raid Devices : 4

Avail Dev Size : 976703464 (465.73 GiB 500.07 GB)
Array Size : 2930109696 (1397.19 GiB 1500.22 GB)
Used Dev Size : 976703232 (465.73 GiB 500.07 GB)
Super Offset : 976703720 sectors
State : clean
Device UUID : 923bde45:20caba8f:b678d769:3723843d

Internal Bitmap : -234 sectors from superblock
Update Time : Fri Jun 11 22:12:41 2010
Checksum : c811403f - correct
Events : 14

Layout : left-symmetric
Chunk Size : 128K

Device Role : Active device 1
Array State : AAAA ('A' == active, '.' == missing)
/dev/sdd1:
Magic : a92b4efc
Version : 1.0
Feature Map : 0x1
Array UUID : aa22f254:96a2c8f8:2e3ca766:aeaf2fa9
Name : 0
Creation Time : Sat Feb 28 11:38:08 2009
Raid Level : raid5
Raid Devices : 4

Avail Dev Size : 976703464 (465.73 GiB 500.07 GB)
Array Size : 2930109696 (1397.19 GiB 1500.22 GB)
Used Dev Size : 976703232 (465.73 GiB 500.07 GB)
Super Offset : 976703720 sectors
State : clean
Device UUID : 2fbac8e3:25a23cfe:4f9ef887:3b9e53df

Internal Bitmap : -234 sectors from superblock
Update Time : Sat Jun 12 09:43:20 2010
Checksum : 946cda19 - correct
Events : 200

Layout : left-symmetric
Chunk Size : 128K

Device Role : Active device 2
Array State : ..AA ('A' == active, '.' == missing)
/dev/sde1:
Magic : a92b4efc
Version : 1.0
Feature Map : 0x1
Array UUID : aa22f254:96a2c8f8:2e3ca766:aeaf2fa9
Name : 0
Creation Time : Sat Feb 28 11:38:08 2009
Raid Level : raid5
Raid Devices : 4

Avail Dev Size : 976703464 (465.73 GiB 500.07 GB)
Array Size : 2930109696 (1397.19 GiB 1500.22 GB)
Used Dev Size : 976703232 (465.73 GiB 500.07 GB)
Super Offset : 976703720 sectors
State : clean
Device UUID : 05d89660:60e0d7c2:8f244ce0:c59c69e6

Internal Bitmap : -234 sectors from superblock
Update Time : Sat Jun 12 09:43:20 2010
Checksum : 353fbaf6 - correct
Events : 200

Layout : left-symmetric
Chunk Size : 128K

Device Role : spare
Array State : ..AA ('A' == active, '.' == missing)

Alles anzeigen

mdadm --assemble --force --verbose /dev/md0 /dev/sdb1 /dev/sdc1 /dev/sdd1 /sde1

Zitat

mdadm: looking for devices for /dev/md0
mdadm: cannot open device /dev/sdb1: Device or resource busy
mdadm: /dev/sdb1 has no superblock - assembly aborted

Besteht noch Hoffnung ?

Viele Grüße

gehlhajo

Zitat

Originally posted by gehlhajo
mdadm --assemble --force --verbose /dev/md0 /dev/sdb1 /dev/sdc1 /dev/sdd1 /sde1

hast du dich hier verschrieben? So leicht bekommt man ein RAID5 nicht kaputt.

wenn dann muesste es zumindest heissen:

mdadm --assemble --force --verbose /dev/md0 --add /dev/sdb1 /dev/sdc1 /dev/sdd1 /dev/sde1

- sparkie

Hurra , Freibier für Sparkie!
Ich hatte mich in der tat verschrieben (aber nur hier im Forum), jedoch der Hauptfehler war, dass ich das --add nicht verwendet hab.
Jetzt käßt sich das Array zumindestens wieder starten.Es ist aber noch degraded:

mdadm --assemble --force --verbose /dev/md0 --add /dev/sdb1 /dev/sdc1 /dev/sdd1 /dev/sde1

Zitat

dadm: looking for devices for /dev/md0
mdadm: /dev/sdb1 is identified as a member of /dev/md0, slot 0.
mdadm: /dev/sdc1 is identified as a member of /dev/md0, slot 1.
mdadm: /dev/sdd1 is identified as a member of /dev/md0, slot 2.
mdadm: /dev/sde1 is identified as a member of /dev/md0, slot 3.
mdadm: forcing event count in /dev/sdb1(0) from 197 upto 200
mdadm: added /dev/sdc1 to /dev/md0 as 1
mdadm: added /dev/sdd1 to /dev/md0 as 2
mdadm: added /dev/sde1 to /dev/md0 as 3
mdadm: added /dev/sdb1 to /dev/md0 as 0
mdadm: /dev/md0 has been started with 3 drives (out of 4).

Alles anzeigen

cat /proc/mdstat

Zitat

Personalities : [linear] [raid0] [raid1] [raid10] [raid6] [raid5] [raid4] [multipath] [faulty]
md0 : active raid5 sdb1[0] sde1[4] sdd1[2]
1465054848 blocks super 1.0 level 5, 128k chunk, algorithm 2 [4/3] [U_UU]
bitmap: 0/466 pages [0KB], 512KB chunk

/dev/sdc1 fehlt

mdadm -E /dev/sdc1

Zitat

/dev/sdc1:
Magic : a92b4efc
Version : 1.0
Feature Map : 0x1
Array UUID : aa22f254:96a2c8f8:2e3ca766:aeaf2fa9
Name : 0
Creation Time : Sat Feb 28 11:38:08 2009
Raid Level : raid5
Raid Devices : 4

Avail Dev Size : 976703464 (465.73 GiB 500.07 GB)
Array Size : 2930109696 (1397.19 GiB 1500.22 GB)
Used Dev Size : 976703232 (465.73 GiB 500.07 GB)
Super Offset : 976703720 sectors
State : clean
Device UUID : 923bde45:20caba8f:b678d769:3723843d

Internal Bitmap : -234 sectors from superblock
Update Time : Fri Jun 11 22:12:41 2010
Checksum : c811403f - correct
Events : 14

Layout : left-symmetric
Chunk Size : 128K

Device Role : Active device 1
Array State : AAAA ('A' == active, '.' == missing)

Alles anzeigen

Scheint aber in Ordung zu sein. Reicht es, wenn ich wieder einen sync anstosse
und wenn ja , wie mache ich das ? (Von alleine fängt er irgendwie nichtan)

gehlhajo

EDIT ein mdadm --add /dev/md0 /dev/sdc1 löste das Problem HURRA Danke schön für die Hilfe..

Zitat

Originally posted by gehlhajo
Hurra , Freibier für Sparkie!
Ich hatte mich in der tat verschrieben (aber nur hier im Forum), jedoch der Hauptfehler war, dass ich das --add nicht verwendet hab.

Freibier ist gut heute, na dann

Zitat

Originally posted by gehlhajo
EDIT ein mdadm --add /dev/md0 /dev/sdc1 löste das Problem HURRA Danke schön für die Hilfe..

Events : 14 fuer Device UUID : 923bde45:20caba8f:b678d769:3723843d ist ein bisschen sehr ausser sync... Da braucht er schon eine extra Einladung

BTW:
ein Soft-RAID habe ich bislang noch nicht geschrottet. Obwohl ich mir schon oft viel Muehe dazu gemacht habe:)

Einfach toll wie stabil das implementiert ist. Ich wuerde mir deswegen nie nen Hard-Raid kaufen.

- sparkie