VDR Server unter VMware ESX

Zitat

Originally posted by knebb

Und gem. VMware Dokumentation muss der Server Xeons 55xx Serie haben. Also schon etwas neuere Systeme. So einfach kommt man da nicht hin, wenn man nur fuer den Heimgebrauch sich "mal schnell bei Ebay" einen gebrauchten Server holt.

Aber immerhin koennten einige ja auf Arbeit jetzt einen VDR aufsetzen

Ok.... ich hab keine Xeons und es funktioniert. Die Doku ist ja gut und schoen, allerdings behaupte ich mal
jetzt frech, das VMware nur diese Systeme certifiziert und getestet hat. Notwendig ist es nicht.

( siehe sig..)

Gruss
Frank

Zitat

Originally posted by oe6jwf
nur aus welchen grund möchte man den vdr in einer virtuellen maschine betreiben?

"weil es geht!" ist übrigends keine antwort

73

Man kann schnell mal ein test system installieren oder hochfahren, ohne extra hardware anzuschaffen oder hardware aus/ein zubauen, einfach in dem man dem testsystem die DVB Karte zuweist.,

Mein Server macht ausserdem noch ein bischen mehr wie "nur" vdr, wenn ich den nicht virtualsieren wuerden, haette ich acht server am laufen -> stromverbrauch, platz, laermpegel etc..

gruss
frank

Soweit ich das mit bekommen habe ist die Hardwareanforderung lediglich bei der Netzwerkkarte sehr wählerisch.
Man kann nun sogar in der VMware Workstation 7 Version einen ESXi4 Server virtuell einrichten.

Zitat

Originally posted by Frodo
Soweit ich das mit bekommen habe ist die Hardwareanforderung lediglich bei der Netzwerkkarte sehr wählerisch.
Man kann nun sogar in der VMware Workstation 7 Version einen ESXi4 Server virtuell einrichten.

Es ging hier hauptsaechlich darum einen VDR virtualisiert zu betreiben, dafuer brauchst die Moeglichkeit
die Hardware an die virtuelle machine durchzureichen.

gruss
frank

Zitat

Originally posted by knebb
Yohoo!

nig:
Sach mal, was hast Du eigentlich fuer einen Storage Controller in Deiner Kiste drinnen? Ist ja eigentlich ein Desktop Rechner, den Du da fuer ESX "vergewaltigst"

Ja, ist ein Desktop Rechner, normales SATA gedoense ( fuer den Heimgebrauch reichts das, auch wenn ich eni paar kinder hab ) vergewaltigen muss ich aber auf schaerfste zureuckweisen :-),

da ESXI die Platten mit dem controller nicht spiegeln kann, muss ichs halt mit linux software-raid machen in den virtuelle machine.

gruss nig

Zitat

Originally posted by knebb

D.h. Du hast jeder VM zwei .vdmk zugewiesen und machst darueber SW-RAID? Falls also eine Platte ausfaellt, hast Du die Daten noch? Dir ist aber schon klar, dass der ESX die VM komplett abhaengt, wenn er auf einen Datastore wegen Plattenausfall nicht zugreifen kann?

Naja, Verfuegbarkeit (und das ist ja der Sinn von RAID1 sieht anders aus. Aber Du hast wohl recht: fuer den Heimgebrauch reicht's

Christian, der aber lieber "richtige" Server hat

Alles anzeigen

Ja-Ne, is klar, das die VM den bach runtergeht, wenn eine platte ausfaellt, mir gehts allerdings das ich die Daten noch auf der zweiten Platte hab ( und mit dem esx4i auf der zweiten platte wieder starten kann... Mein Raid1 ist dafuer da dass ich die Daten nachher noch hab, also Datenverfuegbarkeit

Die Idee war erst auch, per ghettovcb den krempel auf die zweite platten zu klonen, allerdings dauert es sehr lange bei 500GB und zweitens geht es nicht im laufenden Betrieb mit PCI hardware durchgereicht.

Hmm, vielleicht sollte ich doch VM FT aufsetzen :-), nur ein witz, ich glaube fuer einen Heimserver reicht mein setup

Richtige Server sind mir auch lieber, dann schon mit SAN und geclustert, aber nicht wenn ich den Krempel selber bezahlen muss..:-) . und vor allen Dingen nicht wenn die HeimBastelloesung seinen Zweck erfuellt.

Richtige Server werden auch nichts nachts automatisch gepowerdowned wie bei mir, ok stimmt nicht ganz, vmware bietet Lastmanagmentt, automatisches standby und automatisches Hochfahren im Rahmen von Green Computing an..

Du machst mich neugierig: Wie sieht dein ESX server zuhause aus ?

gruss nig

Hallo,

super Thread!!

ich beschäftige mich auch gerade damit einen VDR unter esxi 4 zum laufen zu bekommen. Nur, das klappt nicht.

Ich habe: Ein Asus Board mit Q35 Chipsatz und einen Core2Quad Prozessor ... allerdings der Q8200, der lt. Intel keine Virtualisierung unterstützen soll.

Als DVB Device nehme ich eine WinTV DVB-C FF und einen DVB-T USB Stick von Terratec ... und beides bekomme ich unter easyvdr nicht zum laufen.

PCI-Passthrough ist aktiv und die DVB-C FF der VM zugeordnet. Ein lspci listet sie auch ... die DVB-Treiber meckern aber ab, das sie den EEPROM nicht lesen können (genaue Meldung ich gerade nicht, da ich nicht daheim bin). Schon mal blöd. Ich will es noch mit aktuellen DVB-Treibern probieren, bin mir aber nicht sicher ob das überhaupt der Bringer ist.

nig: Hast Du eine Idee bzw. was setzt Du genau für Hardware ein.

Bezüglich des DVB-T Sticks ... auch der will nicht ... wird schlicht nicht erkannt. Lt. diverser Foren wird das auch nicht wirklich unterstützt ... es sei denn man installier eine USB-PCI Karte und gibt die dem VDR ebenfalls über PCI-Passthrough bekannt.

nig: Wie hast Du das gemacht?

Zu guter letzt bzgl. RAID und SATA.

Es gibt eine (von mir noch nicht getestete) möglichkeit. Man kann (obwohl vom vSphere Client nicht angeboten) lokale Devices als RAW Devices einer VM übergeben (das habe ich schon gemacht ... klappt). Man installiere nun FreeNAS in einer VM, gebe dieser 2 HDDs als RAW Devices und mache darüber eine Softwareraid welches über NFS freigegeben wird.
Danach erstellt man sich einen internen esxi Switch und koppelt darüber die Freigabe an die anderen VMs. Oder man hängt diese NFS Freigabe wieder in den esxi.

Darkside

Zitat

Original von Darkside
Hallo,

super Thread!!

Freut mich das alle soviel Spass haben..

Zitat

[
Ich habe: Ein Asus Board mit Q35 Chipsatz und einen Core2Quad Prozessor ... allerdings der Q8200, der lt. Intel keine Virtualisierung unterstützen soll.

Als DVB Device nehme ich eine WinTV DVB-C FF und einen DVB-T USB Stick von Terratec ... und beides bekomme ich unter easyvdr nicht zum laufen.

PCI-Passthrough ist aktiv und die DVB-C FF der VM zugeordnet. Ein lspci listet sie auch ... die DVB-Treiber meckern aber ab, das sie den EEPROM nicht lesen können (genaue Meldung ich gerade nicht, da ich nicht daheim bin). Schon mal blöd. Ich will es noch mit aktuellen DVB-Treibern probieren, bin mir aber nicht sicher ob das überhaupt der Bringer ist.

nig: Hast Du eine Idee bzw. was setzt Du genau für Hardware ein.

Alles anzeigen

Meine hardware, siehe signature....

Also deine Kiste kann VT-d ??? aber der Processor kein VT.. etwas ungwoehnlich.

Nein, ohne genauere Logs keine Idee..

Zitat

[

Bezüglich des DVB-T Sticks ... auch der will nicht ... wird schlicht nicht erkannt. Lt. diverser Foren wird das auch nicht wirklich unterstützt ... es sei denn man installier eine USB-PCI Karte und gibt die dem VDR ebenfalls über PCI-Passthrough bekannt.

nig: Wie hast Du das gemacht?

Alles anzeigen

Ich hab den kompletten ( die kiste hat zwei( internen USB-Controller durchgereicht..

gruss nig

nig, sorry das ich bis jetzt nicht weiter reagiert habe, obwohl Du scheinbar helfen wolltest

Ich habe mich die letzten Tage noch mal sehr intensiv mit dem Thema auseinandergesetzt und habe dabei so einige Rückschläge erlebt.

Jetzt läuft der VDR aber endlich unter esxi in einer VM ... wieso, weshalb und auf was man nach meinen Erfahren achten sollte, das würde ich mal demnächst in diesem Thread etwas ausführlicher schreiben ... sofern Interesse besteht

Darkside

Ja, bitte schreiben.
Ich bin auch am herumexperimentieren und wollte in kürze esxi 4 zusammen mit easyvdr testen.

Zitat

Original von Darkside
nig, sorry das ich bis jetzt nicht weiter reagiert habe, obwohl Du scheinbar helfen wolltest

Dem ist so..

Zitat

Ich habe mich die letzten Tage noch mal sehr intensiv mit dem Thema auseinandergesetzt und habe dabei so einige Rückschläge erlebt.

Jetzt läuft der VDR aber endlich unter esxi in einer VM ...

Das ist mir noch lieber ...

Zitat

wieso, weshalb und auf was man nach meinen Erfahren achten sollte, das würde ich mal demnächst in diesem Thread etwas ausführlicher schreiben ... sofern Interesse besteht

Darkside

Uih, da bin ich gespannt

Meine Erfahrungen Teil 1:

Das, was ich hier aufschreibe, soll nicht als ultimatives HOWTO zum Virtualisieren verstanden werden, sondern stellt nur meine Erfahrungen mit diesem Projekt dar. Vieles musste ich leider erst während des Projektes erfahren, einiges habe ich im Internet recherchiert. Quellangaben kann ich aber großartig keine machen … waren zu viele Seiten mit zu vielen Informationen.

Ich konzentriere mich hier auf ein Intel basiertes esxi System … in wie weit es mit AMD Technik funktioniert und welche Abweichungen es da gibt, kann ich nicht sagen.

Meine Basis:

• nVida-Chipsatz basiertes Board
• Intel Celeron Prozessor (Sockel 775)
• 1GB DDR2 RAM
• 2 x 320GB HDD + 2 x 500GB HDD die a) im SoftRaid Level 1 liefen und darauf ein LVM (ist jetzt nicht wichtig, aber ich will es mal erwähnt haben :))
• ein angepasstes easyVDR 6 - angepasst insofern, als das ich einen eigenen Kernel nutze (wegen nicht unterstützter NIC) und in diesem Zusammenhang einen aktuelleren Stand der DVB Treiber nutze (die easyVDR Routine hat nicht alle Treiber in der richtigen Reihenfolge gestartet)
• 1 x WinTV-C FF DVB-Karte
• 2 x Twinhan DVB-T Karten
• ATRIC IR-Einschalter (Serieller Port)

Mein Ziel:
VMWare esxi Server mit einer VM, die meinen vorhande VDR Softwarebasis beinhaltet. Die 500er HDDs sollten dabei als RAW-Device in der VM als Videodisks betrieben werden … idealerweise im RAID. Die 320er HDDs sollen die VMs an sich beinhalten.

Einschränkungen VT-D:

• da es innerhalb des exsi keine virtuellen Devices für die DVB-Karten gibt, müssen diese via PCI-Passthrough an eine VM weitergegeben werden. Dazu ist aber ein spezieller Chipsatz auf dem Board nötig, der diese Technik unterstützt:
  - lt. Wikipedia wird „Virtualization for Directed I/O (VT-d)“ erst ab dem Intel Q45 Chipsatz unterstützt … lt. XEN Wiki u.a auch der Q35
  - ein Prozessor der VT-x unterstützt ist nicht zwingend Vorraussetzung.
• Intel selbst sagt, dass alle Geräte hinter einer PCI-Bridge auch nur einer VM zugeordnet werden können. Es geht also nicht ein Teil der PCI-Karten der einen und einen anderen Teil einer anderen VM zuzuordnen. Es müssen aber im Umkehrschluss nicht zwangsläufig alle PCI-Karten zugeordnet werden.

Einschränkungen esxi:

• die vom esxi unterstützte Hardwareliste ist zwar lang, gängige NICs aus dem Consumer-Bereich und auch einige SATA-Kontroller werden aber nicht unterstützt. Daher ist genau zu schauen, ob die Hardware, die man einsetzen möchte, auch unterstützt wird. Letztendlich erledigt sich das aber auch spätestens dann, wenn man ein Board mit VT-D Unterstützung hat, denn hier sind dann zwangsläufig Intel basierte NICs und SATA Controller auf dem Board, welche vom esxi unterstützt werden.
• die vom esxi unterstützte Hardwareliste ist zwar lang, gängige NICs aus dem Consumer-Bereich und auch einige SATA-Kontroller werden aber nicht unterstützt. Daher ist genau zu schauen, ob die Hardware, die man einsetzen möchte, auch unterstützt wird. Letztendlich erledigt sich das aber auch spätestens dann, wenn man ein Board mit VT-D Unterstützung hat, denn hier sind dann zwangsläufig Intel basierte NICs und SATA Controller auf dem Board, welche vom esxi unterstützt werden.
• mind. 2GB Arbeitsspeicher sind Vorraussetzung
• es werden maximal 2 PCI-Passthrough Geräte pro VM unterstützt!! Diese Einschränkung erscheint mir künstlicher Natur. U.u. lässt sich das durch Bearbeiten der vmx Datei aufweichen … habe ich aber nicht getestet.
• es können leider keine internen HDDs als RAW Device (also direkter Zugriff auf die HDD durch eine VM) einer VM übergeben werden (mit einem Hack/Trick geht es aber doch J)
• wie unter Linux üblich, kann auch der esxi mit den diversen FakeRAIDs der Boards nichts anfangen. Man kann unter esxi auch keinen SoftRAID einrichten. Es gibt dennoch eine merkwürdige Bastellösung … dazu später mehr
• USB-Controller lassen sich zwar in einer VM als Hardware anlegen, wirklichen Nutzen hat das nicht, denn die vorhandenen echten Hardwarecontroller werden nicht angesprochen.
• Hierzu noch was, was ich im Netz gefunden habe: Also, bei einigen wenigen Usern geht das wohl doch, aber VMWare sagt selbst, das es nicht unterstützt wird. Möchte man USB in einer VM nutzen, so ist der von VMWare gebotene Workaround auch nur der, das man einen USB-Controller via PCI-Passtrough an die VM weiterreicht.
• Serielle Schnittstellen werden ebenso wenig unterstützt wie USB. Man kann in einer VM zwar durchaus eine entsprechende Schnittstelle erstellen, diese aber nicht mit einer vorhandenen Schnittstelle verbinden. Serielle IR Empfänger kann man also vergessen.

Quintessenz: Ich denke (weiß es aber nicht wirklich) das sich viele der Einschränkungen lösen lassen, wenn man bspw. XEN als Virtualisierungslösung einsetzt.
Ich habe mich dennoch bewusst für den Test mit esxi entschieden, da ich einige VMWare Produkte bereits kenne (haben wir im Betrieb im Einsatz) und ich vor kurzem erst eine 4tägige VMWare Infrastructure Schulung genossen habe (esx, VirtualCenter etc.) und das dort erworbene Wissen ein bisschen umsetzen will. Und da ich als Hauptrechner noch eine Windowskiste einsetze kann ich den esx danke VI-Client recht einfach konfigurieren und bedienen.

Den größten Teil der Einschränkungen habe ich im Übrigen leider erst während des Projektes erfahren müssen. Das hat mich gute 4 Tage Zeit gekostet

Meine Erfahrungen Teil 2:

Software-Vorbereitungen:

• Knoppix DVD (o.ä.) sollte parat liegen.
• Datensicherung des gesamten OS … habe ich auf einem NAS in einem tar Archiv gemacht. Grub (mein Bootloader) lässt sich hinterher mittels Knoppix in der VM wieder einrichten. Die Videopartition habe ich aufgrund der Größe aber ausgelassen.
• möchte man einen Teil der Daten ohne spezielle Datensicherung übernehmen (um eben eine HDD bspw. als RAW Device in eine VM einzuhängen) sollte man vorsichtshalber sämtliche LVMs und SoftwRAIDs auflösen.

Hardware-Vorbereitungen:
Ich kam zwangsläufig um neue Hardware nicht herum.

• ein neues Board mit passendem Chipsatz (wegen VT-D)
• eine neue CPU um später auch anderen VMs bei Bedarf die entsprechende Leistung zu geben.
• DVB-T USB-Stick (mit DualTuner), da ich ja durch die Einschränkung auf 2 PCI-Geräte pro VM bei PCI-Passthrough nicht mehr alle DVB-PCI-Karten nutzen kann.
• Neuer IR-Empfänger

Motherboard-Suche:
Nach langer Suche habe ich mich am Anfang für das Asus P5E-VM DO entschieden … und es auch wieder zurück geschickt. Warum? Nun ja, VT-D unterstützte es dank Intel Q35 Chipsatz. Richtig ordentlich lief es aber nicht … Asus hat hier scheinbar seine Arbeit nicht ordentlich gemacht.

Das erste Merkwürdige war, das mir die internen UBS-Controller gar nicht für das PCI-Passthrough angeboten wurden. Ich habe etliche Einstellungen (vor allem BIOS) versucht … keine Chance.
Dann wurde mir nebst meiner DVB-C FF Karte auch der Firewire-Controller hinter der einzig existierenden PCI-Bridge mit angeboten … und musste zwangsläufig auch für PCI-Passthrough mit aktiviert werden.

Mein Testlinux-VM hat die ihr zugeordnete FF DVB prinzipiell erkannt, allerdings meckerten die V4L Treiber steht’s, das der EEPROM nicht gelesen werden könne … was dazu führte das weiterführende Treiber nicht geladen wurden und schlicht keine Deviceeinträge unterhalb /dev entstanden sind.

Letztendlich konnte ich im Netz diverse Fragmente zu diesem Board finden, die bestätigten, dass es für VT-D einfach nicht geeignet ist.

• hat Asus wohl tatsächlich ein PCI-Slot mit einem internen Device verbunden, so dass theoretisch nur noch einer von den zwei vorhandnen Slots genutzt werden kann,
• ist es nötig das interne Grafik-Device einzuschalten, das ansonsten die DMAR-Tabelle unbrauchbar wird.
  [/list=1] Als Ersatzboard habe ich nun das Gigabyte GA-EQ45M-S2 mit Intel Q45 im Einsatz. Hier werden mir nicht nur alle USB-Controller für PCI-Passthrough angeboten, auch das Durchreichen der DVB-C FF klappt super!
  

  
  

  Letztendlich konnte ich damit meinen easyVDR wieder in Betrieb nehmen.

  
  

  Dinge die bei mir (noch) nicht funktionieren:
  [list]
  

• die internen USB-Controller kann ich zwar weiterreichen, werden aber unter meinem angepassten easyVDR nur als „unknown USB Host“ erkannt. Unter einer Debian 5 VM hingegen gibt es das Problem nicht … insofern wird es ein selbst verursachtes Problem sein (welches ich erst mal durch eine USB-PCI-Karte gelöst habe)
• der von mir ausgesuchte DVB-T USB-Stick hat einen IR-Empfänger integriert. Dieser wird auch vom System erkannt … bedienen kann ich den VDR aber damit noch nicht, denn es scheinen keine Befehle anzukommen. Aber auch das Problem werde ich sicher noch lösen

Tips:
Interne SATA HDDs als RAW-Device:
Der esxi bietet einen „unsuported“ Shell Zugriff. Über diesen kann bspw. ein SSH Server aktiviert werden:

ESXi Unsupported Console Access or even SSH

Auf der Shell kann man dann mittels eines Tools vmdk’s anlegen, die, nach Einbindung in eine VM, direkten Zugriff auf eine interne HDD ermöglichen.

Raw Device in VM

Das funktioniert wirklich sehr gut.

RAID Funktionalität:
Wie ich schon in einem vorherigen Post erwähnt, gibt es eine recht einfache aber von mir noch nicht getestete Lösung: Eine VM mit FreeNAS. In diese VM die HDDs, die so eingerichtet werden sollen, als RAW integrieren. Dann dort mittels Software ein RAID bilden und via NFS freigeben. Dann kann im esxi diese Freigabe als Datenspeicher integriert werden und von den VMs genutzt werden. So die Theorie jedenfalls.

Interessante Sache. Habe hier noch einen ESXi 3.5 laufen, muss wohl doch mal an einem langen Winterabend mit der Version 4 rumspielen.

Was mir an den beiden Intel-Boards nicht gefällt: sie unterstützen im Gegensatz zu den meisten AMD-Boards keinen ECC-Speicher. Zusammen mit dem meist recht reichlichen Speicherausbau in so einer Maschine ist das ein nicht ganz unbedeutendes Manko.

Grüße,
Holger

Zitat

Original von Darkside
Der esxi bietet einen „unsuported“ Shell Zugriff. Über diesen kann bspw. ein SSH Server aktiviert werden:

ESXi Unsupported Console Access or even SSH

Auf der Shell kann man dann mittels eines Tools vmdk’s anlegen, die, nach Einbindung in eine VM, direkten Zugriff auf eine interne HDD ermöglichen.

Leider ist der Zugriff (im Gegensatz zum "richtigen" ESX4) nur auf eine abgespeckte Shell möglich, zumindest war das beim ESX3i vs. ESX3.x so. Man kann zwar mit den "eingebauten" Kommandos ein wenig was anstellen, aber richtige Shell-Befehle funktionierten nicht ...

Wird anscheinend doch langsam Zeit für mich, mal vSphere4-Luft zu schnuppern

Alex