Raid5 startet nicht mehr

tueftler17 · 18. Dezember 2008

Hallo!

Zurzeit baue ich mein neues System auf. Eckdaten: Suse11 da andere Linuxe das Board und das DVD nicht erkennen, xen, 4 Platten mit 640 Gig, Raid5, LVM und darauf dann etch mit vdr.

Bevor ich wirklich fertig geworden bin startet mein Raid5 nicht mehr. Die Fehlermeldungen sind einfach nicht hilfreich, vielleicht hat jemand von Euch eine Idee. Suse bootet nicht mehr, daher jetzt die Tests mit Knoppix 5.3. Die Ausgaben:

Code

mdadm --assemble --run -v  /dev/md0 /dev/sda2 /dev/sdb2 /dev/sdc2 /dev/sdd2
mdadm: looking for devices for /dev/md0
mdadm: /dev/sda2 is identified as a member of /dev/md0, slot 3.
mdadm: /dev/sdb2 is identified as a member of /dev/md0, slot 0.
mdadm: /dev/sdc2 is identified as a member of /dev/md0, slot 1.
mdadm: /dev/sdd2 is identified as a member of /dev/md0, slot 2.
mdadm: added /dev/sdc2 to /dev/md0 as 1
mdadm: added /dev/sdd2 to /dev/md0 as 2
mdadm: added /dev/sda2 to /dev/md0 as 3
mdadm: added /dev/sdb2 to /dev/md0 as 0
mdadm: failed to RUN_ARRAY /dev/md0: Input/output error

Alles anzeigen

Was vielleicht noch weiter hilft sind die Ausgaben von dmesg:

Code

md: bind<sdc2>
md: bind<sdd2>
md: bind<sda2>
md: bind<sdb2>
raid5: device sdb2 operational as raid disk 0
raid5: device sda2 operational as raid disk 3
raid5: device sdd2 operational as raid disk 2
raid5: device sdc2 operational as raid disk 1
raid5: allocated 4212kB for md0
raid5: raid level 5 set md0 active with 4 out of 4 devices, algorithm 0
RAID5 conf printout:
 --- rd:4 wd:4
 disk 0, o:1, dev:sdb2
 disk 1, o:1, dev:sdc2
 disk 2, o:1, dev:sdd2
 disk 3, o:1, dev:sda2
md0: bitmap file is out of date (4158 < 4159) -- forcing full recovery
md0: bitmap file is out of date, doing full recovery
md0: bitmap initialisation failed: -5
md0: failed to create bitmap (-5)
md: pers->run() failed ...

Alles anzeigen

Hat jemand von Euch eine Idee wie ich dieses RAID wieder zum laufen bekommen könnte? Ich bin schon fast soweit das System neu zu installieren, was mich jedoch am meisten abschreckt ist die Idee dass so etwas später noch einmal geschieht und ich dann meine ganzen Videos verliere...

Viele Grüße
Tueftler17

knebb · 18. Dezember 2008

Hmmmm....so wie das aussieht scheint es so zu sein, dass sich zwei Platten aus dem Array "verabschiedet" haben. Vielmehr, dass bei zweien der Superblock nicht mehr vollstaendig geschrieben werden konnte. Dadurch sagt das System natuerlich: Zwei Platten defekt, Array kaputt!

Bei den alten raidtools gab es einen (undokumentierten) Parameter namens "--dagerous-no-resync" mit dem man das Array mit einer fehlenden und einer mit altem Superblock wieder starten konnte. fsck danach war aber Pflicht- ebenso wie die zweite Platte danach wieder sauber einzubinden.

Aber wie jetzt dieser Parameter (sofern es die Option mit mdadm noch gibt) bei mdadm heisst? Aber vielleicht ist der obige Parameter ja schonmal ein Ansatz fuer das weitere
[EDIT]
Bei Deiner MEldung steht was von Bitmap. Ob das bei mdadm der RAID Superblock ist?
Aus reiner Neugierde auch mal Tante befragt. Zusaetzlich auch noch man mdadm:

Code

--assume-clean
Tell  mdadm  that the array pre-existed and is known to be clean.  It can be useful when trying to recover from a major failure as you can be sure that no data will be affected unless you actually write to the array.  It can also be used when  creating  a RAID1  or  RAID10  if  you  want to avoid the initial resync, however this practice — while normally safe — is not recommended.
Use this only if you really know what you are doing.

Koennte ggf. damit klappen.

tueftler17 · 18. Dezember 2008

Hi knebb!

Physikalisch sind die Platten OK, ich habe alle beschrieben, mit smart geschaut etc.

Was mich wundert ist dass bei allen Partitionen jeweils angezeigt wird, dass eine Platte ausgefallen ist.

Code

root@Knoppix:/mnt# mdadm -E /dev/sda2
/dev/sda2:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : 76ffe233:8b965817:66da2ccb:da4a2bee
           Name : 0
  Creation Time : Sun Nov 30 17:57:35 2008
     Raid Level : raid5
   Raid Devices : 4


 Avail Dev Size : 1248153832 (595.17 GiB 639.05 GB)
     Array Size : 3744460800 (1785.50 GiB 1917.16 GB)
  Used Dev Size : 1248153600 (595.17 GiB 639.05 GB)
   Super Offset : 1248154088 sectors
          State : clean
    Device UUID : d4b01bab:253a971b:ed463ebc:fa84802b


Internal Bitmap : -150 sectors from superblock
    Update Time : Tue Dec 16 06:12:28 2008
       Checksum : cdd8c51c - correct
         Events : 4158


         Layout : left-asymmetric
     Chunk Size : 128K


    Array Slot : 4 (0, 1, 2, failed, 3)
   Array State : uuuU 1 failed
root@Knoppix:/mnt# mdadm -E /dev/sdb2
/dev/sdb2:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : 76ffe233:8b965817:66da2ccb:da4a2bee
           Name : 0
  Creation Time : Sun Nov 30 17:57:35 2008
     Raid Level : raid5
   Raid Devices : 4


 Avail Dev Size : 1248153832 (595.17 GiB 639.05 GB)
     Array Size : 3744460800 (1785.50 GiB 1917.16 GB)
  Used Dev Size : 1248153600 (595.17 GiB 639.05 GB)
   Super Offset : 1248154088 sectors
          State : clean
    Device UUID : c6b27072:fcccb262:db6f0bc2:f9b1775b


Internal Bitmap : -150 sectors from superblock
    Update Time : Tue Dec 16 06:12:26 2008
       Checksum : 120dafce - correct
         Events : 4159


         Layout : left-asymmetric
     Chunk Size : 128K


    Array Slot : 0 (0, 1, 2, failed, 3)
   Array State : Uuuu 1 failed
root@Knoppix:/mnt# mdadm -E /dev/sdc2
/dev/sdc2:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : 76ffe233:8b965817:66da2ccb:da4a2bee
           Name : 0
  Creation Time : Sun Nov 30 17:57:35 2008
     Raid Level : raid5
   Raid Devices : 4


 Avail Dev Size : 1248153832 (595.17 GiB 639.05 GB)
     Array Size : 3744460800 (1785.50 GiB 1917.16 GB)
  Used Dev Size : 1248153600 (595.17 GiB 639.05 GB)
   Super Offset : 1248154088 sectors
          State : active
    Device UUID : 50574776:00325b6d:6747f074:964477c5


Internal Bitmap : -150 sectors from superblock
    Update Time : Tue Dec 16 06:12:26 2008
       Checksum : 3d712386 - correct
         Events : 4159


         Layout : left-asymmetric
     Chunk Size : 128K


    Array Slot : 1 (0, 1, 2, failed, 3)
   Array State : uUuu 1 failed
root@Knoppix:/mnt# mdadm -E /dev/sdd2
/dev/sdd2:
          Magic : a92b4efc
        Version : 1.0
    Feature Map : 0x1
     Array UUID : 76ffe233:8b965817:66da2ccb:da4a2bee
           Name : 0
  Creation Time : Sun Nov 30 17:57:35 2008
     Raid Level : raid5
   Raid Devices : 4


 Avail Dev Size : 1248153832 (595.17 GiB 639.05 GB)
     Array Size : 3744460800 (1785.50 GiB 1917.16 GB)
  Used Dev Size : 1248153600 (595.17 GiB 639.05 GB)
   Super Offset : 1248154088 sectors
          State : clean
    Device UUID : 8d0da905:a6ca4d43:e4624809:7ea0dcfb


Internal Bitmap : -150 sectors from superblock
    Update Time : Tue Dec 16 06:12:28 2008
       Checksum : 6d82e9cf - correct
         Events : 4158


         Layout : left-asymmetric
     Chunk Size : 128K


    Array Slot : 2 (0, 1, 2, failed, 3)
   Array State : uuUu 1 failed

Alles anzeigen

Ich erkenne einfach nicht, welche beiden Platten nicht eingebunden werden können. im dmesg wird angezeigt, dass alle Platten eingebunden werden konnten.

Vielleicht hast Du noch eine Idee.

Danke und viele Grüße
Tueftler17

knebb · 18. Dezember 2008

Was mir auffaellt:

Code

/dev/sda1
[...]
  Array Slot : 4 (0, 1, 2, failed, 3)
  Array State : uuuU 1 failed

Es sollte eigentlich keinen Slot 4 geben, nur 0, 1, 2, 3- fuer vier Devices eben. Bei den anderen passt das jeweils.

Das scheint mir der einzige Hinweis auf einen Fehler zu sein. Ansonsten sieht das eigentlich gut aus. Ich wuerde es evtl. einfach mal ohne sda1 zu starten versuchen. Also sda abklemmen und mal sehen, was er dann sagt. Wenn er sauber startet, kannst Du die sda1 ja loeschen und neu einbinden. Aber ist natuerlich riskant- wie das LEben halt so ist

Wie kam es eigentlich dazu? Ist die Kiste abgeschmiert?

[EDIT] einen hab' ich noch:

Und die "Events" stimmen auch nicht ueberein. Bei zweien (u.a. sda2) ist es 4158, bei den anderen sind die neuen Eintraege von 4159 vorhanden. Siehts stark danach aus, als haette ich recht

tueftler17 · 18. Dezember 2008

Hi Knebb!

Du hast völlig recht. Die events habe ich einfach trotz danach suchen *schäm* in der Ausgabe nicht gefunden. Also: Es handelt sich klar um ein kaputtes Array, es lohnt nicht die Reparaturversuche. Ich habe mitprotokolliert was ich zum installieren getan habe, also: Neuinstallation.

Danke, Du hast mir sehr geholfen! Ich weiß jetzt wenigstens woran es lag! Eigentlich habe ich die Kiste immer sauber heruntergefahren und so etwas hässliches auch auf anderen Rechnern noch nie gehabt.

Viele Grüße
Tueftler17

knebb · 18. Dezember 2008

Zitat

Originally posted by tueftler17
Also: Es handelt sich klar um ein kaputtes Array, es lohnt nicht die Reparaturversuche.

Da waere ich mir halt nicht so sicher. Ich hatte so etwas auch schon oefters- mit den alten RAID tools ging das gut.

Wenn zum Zeitpunkt des Absturzes nicht viel auf dem Array geschrieben wurde, wuerde ich es noch nicht abschreiben! Wenn das die Videopartition war, kannst Du die Datenintegrietaet ja auch recht einfach feststellen (Spaeter mehr).

Warum startest Du das Array nicht einfach mit einer fehlenden Platte? Probieren. Wenn du das Array sowieso schon abgeschrieben hast, kann ja nix mehr schiefgehen

Sollte das klappen, kannst Du die Integritaet ja ueber genindex ansatzweise testen lassen (allerdings erst nach dem notwendigen fsck!). Also die bestehende index.vdr umbenennen und mit genindex eine neue erstellen. Ueber beide dann die md5sum bilden und vergleichen. Ist das gleich, waren die 00X.vdr noch ok.

tueftler17 · 18. Dezember 2008

Hi Knebb!

Bis jetzt war noch kein einziges Video drauf. Ich verliere die installierte Beta-Version von Suse 11.1, ein mit debootstrap erzeugtes lenny und ein mit x-vdr installierten VDR.

Es ist nicht wirklich schlimm wenn ich es neu installiere, ich lade gerade schon die finale Version von Suse 11.1 herunter und fange neu an.

Deinen Tipp habe ich auch schon versucht, mit

Code

mdadm --create /dev/md0 --chunk=128  --level=5 --raid-devices=4 /dev/sdb2 /dev/sdc2 /dev/sdd2 missing

lief das array zwar wieder, aber ich konnte weder die vdr-Partition noch die suse-Partition mounten.

Nochmals vielen Dank aber ich wollte ohnehin den neueren Kernel verwenden, ein Update wäre schwierig und am meisten war ich an einer Diagnose interessiert.

Viele Grüße
Tueftler17

Raid5 startet nicht mehr

Jetzt mitmachen!

Teilen