tomtest
Goto Top

RAID mit NVMEs ?

Hallo liebe Freunde gepflegter Probleme,

unser Chef möchte mehr Dampf in der Leitung haben und da vergleiche mit der Autobranche bei IT-Fernen Menschen beliebt sind, war die Aussage es soll kein Skoda sein aber auch kein Maserati. Ein solider, komfortabler und sportlicher 7er Audi solls sein … Daher die Wahl zu einem Server mit NVME´s, vorzugsweise mit Raid 5 mit Hotspare bzw. RAID 6, so das 2 Platten ausfallen können.

NVME´s sind ja nun die Zukunft im Storage Bereich und mittlerweile gibt's auch ausgereifte und bezahlbare Produkte auf dem Markt.

Die Frage ist wie baue ich ein Raid mit PCIe NVME´s wie der PM1725b auf?

Habt ihr da Empfehlungen zu einem Serverboard oder Controller der das kann?

Bin auch nicht auf PCIe fixiert, als Slot käme ja auch M2 bzw U2 in Frage.

Wichtig ist hierbei die Performance was die Bandbreite angeht, also einige GB in Sekunden wegschaufeln und die Latenz bei Datenbankzugriffen.

Das Thema ist nicht was ich mit dem Server machen will sondern wie ich ein Server geeignetes RAID System aufbaue mit NVME´s !

Als Betriebssystem Unterbau bzw. Hypervisor käme VMware wie auch Microsoft Hyper-V in Frage da 2 VM´s auf dem Server laufen werden.

Vielen Dank im Voraus für eure Antworten.

Euer Tom

Content-Key: 466592

Url: https://administrator.de/contentid/466592

Printed on: April 25, 2024 at 20:04 o'clock

Member: Cornitus
Cornitus Jun 27, 2019 at 15:08:11 (UTC)
Goto Top
Hallo,

der Autovergleich hinkt, wie so ziemlich jeder Autovergleich. Ein sportlicher Audi A7 wäre dann ein S7 und der kostet mindestens genauso viel ein Maserati ;).

Es gibt nur sehr wenige RAID Adapter für NVMEs. Das macht den Markt überschaubar. Es gibt aber Hersteller (Dell, HP.....) die bereits fertige Lösungen bieten. Da sind die SSDs einfach in ein 3,5!? Gehäuse gesteckt die dann eingeschoben über eine Backplane Kontakt haben. Lösungen gibt es.

Ich würde mir eher die Frage stellen ob dies überhaupt sinnvoll ist. Nur weil man den Datenbankserver auf SSDs laufen lässt muss das nicht zwangsläufig eine Top Performance abliefern. Da die NVME SSDs noch recht teuer sind könnte man da auch leicht enttäuscht sein. Wichtig ist auch nicht unbedingt die Bandbreite sondern die IOPS. Datenbanksysteme profitieren da, meiner Meinung nach, eher von mehr RAM. Aber auch das ist so eine Sache. Man müsste schauen (per Monitoring) wie welche Komponenten ausgelastet sind um das Optimum zu erhalten. Das ist denke wichtiger als dann nach der eigentlichen Lösung zu suchen.

Grüße Cornitus
Member: maxblank
maxblank Jun 27, 2019 at 16:36:49 (UTC)
Goto Top
Servus,

was spricht gegen ein RAID mit entsprechend vielen Enterprise-SSDs?
Wie viel IOPS brauchst du denn? Mal nachgemessen?

Wenn du von einigen GB pro Sekunde wegschaufeln sprichst, welches Szenario ist das? Datenbank ja eher nicht.

Wie sieht die Netzwerkanbindung des Servers aus? Nicht das daraus ein Flaschenhals wird.

Fragen über Fragen.

Gruß
Maxblank
Member: Grinskeks
Solution Grinskeks Jun 28, 2019 at 08:36:17 (UTC)
Goto Top
Hallo,

schau dir mal Virtual RAID on CPU an.

Was man benötigt, sind XEON CPUs, NVMe Slots und den entsprechenden Enablement Key für das VROC.

Intel Virtual RAID on CPU

Wir haben bei einem Kunden ein RAID1 mit zwei OPTANE DC P4800X im Einsatz und das rennt einfach nur - 500.000 IOPS in 4K, eine 10GB Datenbank ist in 4 Sekunden gesichert.


Zitat von @Cornitus:


Ich würde mir eher die Frage stellen ob dies überhaupt sinnvoll ist. Nur weil man den Datenbankserver auf SSDs laufen lässt muss das nicht zwangsläufig eine Top Performance abliefern. Da die NVME SSDs noch recht teuer sind könnte man da auch leicht enttäuscht sein. Wichtig ist auch nicht unbedingt die Bandbreite sondern die IOPS. Datenbanksysteme profitieren da, meiner Meinung nach, eher von mehr RAM. Aber auch das ist so eine Sache. Man müsste schauen (per Monitoring) wie welche Komponenten ausgelastet sind um das Optimum zu erhalten. Das ist denke wichtiger als dann nach der eigentlichen Lösung zu suchen.

Diese Meinung teile ich überhaupt nicht und die Aussagen machen irgendwie auch keinen Sinn. Mit NVME hat man ordentlich Bandbreite und IOPS und Datenbanken müssen je nach Transaktion in der tempDB auslagern und schreibintensive Arbeiten profitieren erheblich.

Für den besagten Kunden mit hohem Datenwachstum und komplexen Benutzerrechten legt der DB-Server zwangsweise Snapshots (clustered Index Inserts) in tempDB an.
Bei einer 10 Millionen Datensätzen mal Anzahl an Sessions kommt da schon einiges zusammen, was ständig konkurrierend geschrieben werden muss. Der Isolation Level Read Commited sorgt für Wartezeiten bzgl. IO-Subsystem - Ram ist wichtig, aber solange die Buffer cache Hit Ratio passt, bringt er mir keine weiteren Vorteile - in diesem Fall sind es 128 GB, was sogar noch deutlich überdimensioniert ist für den Workload.


Gruss Grinskeks
Member: Cornitus
Cornitus Jun 28, 2019 updated at 10:44:57 (UTC)
Goto Top
Hallo,

die reinen Leistungsdaten sind natürlich sehr gut. Man kann bei überschüssiger Kohle natürlich auch nichts so richtig falsch machen, mal davon abgesehen Sie aus dem Fenster zu schmeißen. Dann würde ich aber einen vernünftigen Server nehmen der so vom Hersteller auch ausgestattet worden ist. Wenn du die NVMEs auf dem Board unterbringst würde mich zum Beispiel mal ein HotPlug Tausch der Platte interessieren. Es ist natürlich mehr zu beachten als einfach nur NVMEs auf ein Intel Board zu stecken und zu behaupten jetzt die Datenbank viel schneller.

Deine pauschale Aussage ist absolut nicht zielführend. Du kannst so allgemein nicht Ansatzweise garantieren das im Falle des Threaderstellers ein Mehrwert zu erwarten ist oder Mehrwert bei erhöhten Ausgaben überhaupt sinnvoll ist.
Ein Autoverkäufer macht natürlich auch nichts falsch wenn er nur S-Klassen anbietet. Ob das nun dem Nutzen entspricht ist aber wieder eine andere Sache.

Grüße Cornitus
Member: Grinskeks
Grinskeks Jun 28, 2019 at 11:23:48 (UTC)
Goto Top
Hallo,

Zitat von @Cornitus:

Deine pauschale Aussage ist absolut nicht zielführend. Du kannst so allgemein nicht Ansatzweise garantieren das im Falle des Threaderstellers ein Mehrwert zu erwarten ist oder Mehrwert bei erhöhten Ausgaben überhaupt sinnvoll ist.
Ein Autoverkäufer macht natürlich auch nichts falsch wenn er nur S-Klassen anbietet. Ob das nun dem Nutzen entspricht ist aber wieder eine andere Sache.


Leider erneut das Thema verfehlt.


Schauen wir doch mal, was der Threadersteller sagte:

"...Wichtig ist hierbei die Performance was die Bandbreite angeht, also einige GB in Sekunden wegschaufeln und die Latenz bei Datenbankzugriffen.
Das Thema ist nicht was ich mit dem Server machen will sondern wie ich ein Server geeignetes RAID System aufbaue mit NVME´s !..."


Gruss Grinskeks
Member: Cornitus
Cornitus Jun 28, 2019 at 11:38:18 (UTC)
Goto Top
Hallo,

mach doch was du willst. Er hat das einfach genauso unreflektiert behauptet wie du. Daher auch meine Aussage das man erstmal schauen muss ob es überhaupt was bringt. Stehst halt alleine da mit deiner Meinung. Solche "Fachkräfte" mag ich ja. "Sie können nichts falsch machen wenn Sie einfach das schnellste nehmen". Lächerlich...

Mal ganz davon ab sind deine Beispiele völliger quatsch. Ist ungefähr so als würde ich behaupten mein Auto fährt maximal 160km und möchte damit seine Höchstgeschwindigkeit ausdrücken. 10 Millionen Datensätze sind ja nun nicht per se viel sondern nur im Zusammenhang. Von 10GB Backup reden und dann auch von Datenwachstum. Das Beispiel haste sicherlich genommen weil der Kunde eine 10GB Datenbank hat. Ich wette es ist ein simples ERP System mit 10 Millionen Artikel oder so. Aber mach mal Junge...

Ist schon wieder Freitag...ganz vergessen.

Grüße Cornitus
Member: M.Witting
M.Witting Jun 28, 2019 at 13:13:07 (UTC)
Goto Top
Zitat von @Cornitus:


Da die NVME SSDs noch recht teuer sind könnte man da auch leicht enttäuscht sein.

"Teuer" würde ich so nicht sagen. Je nach Hersteller variiert das natürlich. Wir verkaufen derzeit 400GB NVMe SSDs ("original" HP Enterprise) für unter 200 EUR netto das Stück...

LG!
Mike
Member: ukulele-7
ukulele-7 Jun 28, 2019 updated at 14:58:18 (UTC)
Goto Top
Ich möchte mich jetzt nicht auf eine Autovergleich-Diskussion einlassen, finde aber NVMe ist im Storage-Berreich ja schon oberes Ende der Fahnenstange, also was sollte da noch kommen außer vielleicht RAM? Natürlich gibt es bei NVMe auch Abstufungen aber die Technik ansich ist Top.

Das Problem was sich schnell stellen wird ist das Server sich anders verhalten, eine NVMe viel mehr beanspruchen und diese den Anforderungen gerecht werden muss. Da kann man nicht einfach eine Desktop NVMe nehmen und sagen, die ist für Desktop gut also auch für Server. Die Samsung NVMe schreiben z.B. plötzlich sehr viel langsammer wenn sie einen gewissen Füllstand erreicht haben. Aber auch Lebensdauer kann ein Problem werden.

NVMe SSD setzt sehr stark auf Techniken wie TRIM, Garbage Collection, etc. Ich bin hier kein Experte aber ich würde sagen das ein RAID Controller nicht einfach nur den Speicher betrachten kann, er muss vielleicht auch wissen was vor sich geht.

Es gibt jede Menge Anbieter entsprechender Enterprise-Systeme (z.B. HPE Nimble finde ich persönlich reizvoll, war für uns aber zu kostspielig). Die kümmern sich dann auch um Dinge wie Austauschbarkeit im Schadensfall und vor allem garantieren sie dir das die Kiste läuft. Jetzt kann ich gut verstehen das man sagt, blöd, echt teuer, kann ich nicht einfach was in meinen Server bauen. Aber du solltest dir überlegen von welchen Daten dein Chef da spricht, die sind vermutlich kritisch. Da würde ich mir das gut überlegen bevor ich mir einen Selbstbau dahin stelle, vor allem mit swas wie NVMe im RAID.
Member: Grinskeks
Grinskeks Jun 28, 2019 at 21:51:04 (UTC)
Goto Top
Hallo zusammen,

@Cornitus: Versuchs doch mal sachlich und mit Freude face-wink
Kannst dich ja bei Wetterdienst, Bildzeitung und/oder Lottofee für deine Situation beschweren oder einfach mal zum Arzt gehen.


Die genannten Samsung NVMe sind schon verdammt günstig, aber wie Ukulele sagt muss man schauen, ob die bei Last einknicken.
Die Intel DC P4800X sind zumindest weitgehend laststabil, wobei diese auch "nur" für Datenbanken in Verwendung sind. In meinem Szenario braucht es kein Raid10 und mit Raid 5 oder 6 gibt es für mein Empfinden zu viel unnötige Schreibvorgänge die wiederum bremsen.

Wenn jeder lizensierte core theoretisch gleichzeitig mit 200MB/s beliefert werden kann, sollte das IO Subsystem eine theoretisch optimale Performance für den Betrieb des Datenbankservers bieten - zumindest bei MSSQL.

Das VROC limitiert übrigens bei ~15,5GB/s inkl. Overhead.


Gruss Grinskeks
Member: Cornitus
Cornitus Jun 29, 2019 at 09:51:56 (UTC)
Goto Top
Das Schreiben von reinen Leistungensdaten des Systems begründet immer noch nicht den Mehrwert in normalen Datenbanksystemen. Schon gar nicht im Bereich Preis-Leistung. Das die Systeme sehr schnell sind, ist klar. Steht auch nicht zur Debatte. Aber....Du hast Recht und ich hab meine Ruhe! Schönes Wochenende!
Member: Grinskeks
Grinskeks Jul 01, 2019 at 08:26:35 (UTC)
Goto Top
Ein "normales" Datenbanksystem - was soll das sein? Adventureworks oder irgendeine kleine Verwaltungsdb, die normalerweise auf ner Express-Instanz bereitgestellt wird?

Ungünstiges DB-Design und inperformante 3rdP Party Apps sorgen für Leistungsprobleme und sind an der Tagesordnung.
Gewachsene Systeme zu optimieren ist immer möglich, aber ein durchaus hoher Zeitfaktor.

Für ein lokales Raid1 NVMe mit 375GB Kapazität zahlt man ~ 2200 € - wie viel Zeit willst du denn da in Analyse und Performancetuning investieren?
Schaust du den Backups beim Laufen zu und überlegst für 5000€ Zeit wie du 2000€ Budget investierst?

Wir reden von keinem neuen SAN das angeschafft werden soll und hier ist kein Konzern oder Großunternehmen am Werk, bei der zwischen Bedarf, Konzept, Freigabe und Anschaffung 6 Monate vergehen und Kostenstellen-bingo gespielt wird.

Preis/Leistung gilt auch für Arbeitnehmer!

Gruß
Grinskeks
Member: M.Witting
M.Witting Jul 01, 2019 at 08:39:10 (UTC)
Goto Top
Zitat von @Grinskeks:
Für ein lokales Raid1 NVMe mit 375GB Kapazität zahlt man ~ 2200 € - wie viel Zeit willst du denn da in Analyse und Performancetuning investieren?

Wie kommst du auf 2200 EUR?
Danke und lG!
Member: Grinskeks
Solution Grinskeks Jul 01, 2019 at 15:02:04 (UTC)
Goto Top
2 x Intel Optane SSD DC P4800X PCIe 3.0 x4 (je ~1050)
1 x VROCSTANMOD Key (~100)

Nettopreise - die Optanes sind nicht günstig, aber flott insbesondere für SQL Workloads, laststabil (~98% Leistung bei 1200 sec. Dauerlast) und 24/7 geeignet.

Gruß
Grinskeks
Member: TomTest
TomTest Jul 02, 2019 updated at 14:28:38 (UTC)
Goto Top
Hallo allerseits

vielen, vielen Dank für eure Anregungen und Tips!!! Sry das ich mich nicht gleich gemeldet hab, war im Urlaub (hab ich gebraucht).

Zum Hintergrund nochmal: Auf dem Server ist geplant DATEV Anwalt Pro UND einen WTS laufen zu lassen mit 10 "Heavy Usern".

Wir möchten gerne bei der Performance keine Kompromisse machen um auch in 5 Jahren ein "gutes und schnelles" System zu haben. Mir ist es lieber ich habe 30% bis 40 % Leistungsreserven in der Hinterhand als das die User in ihrer Arbeit beschränkt werden bzw. sich gegenseitig behindern.

Da wir häufig mit vielen "großen" Mandanten arbeiten werden häufiger sehr große Datensätze hin und hergeschoben, daher der Wunsch nach Bandbreite bzw. IOPS.

Geplant ist zudem das wir grob 6 TB nutzbaren Speicher haben, weshalb ich zu 4 x Samsung SSD PM1725b je 3.2TB tendiere mit 2 x Xeon Gold 6128 3,4GHz,6C/12T,10,4GT/s. und das ganze mit 12 x 16 GB RAM (192 GB RAM im Triple Channel, somit 128 GB allein für den Datenbankserver) Datev Datenbank ist mittllerweile 600 GB groß. Was das OS angeht hatten wir bislang VMWare aber auf dem neuen Server möchte ich HyperV Server 2019 nutzen (außer ihr habt Argumente dagegen) mit aktuellem MS Server 2019 in VM´s.

Die Frage hierbei ist nun, wieviel CPU Last durch ein Software Raid generiert wird oder welche Lösungen es da gibt. Raid Controller habe ich nur einen gefunden: RocketRAID 3800A Controller aber der tunnelt wohl das parallele NVME Protokoll durch einen SAS Controller der eben nicht parallel arbeite wie NVME... https://de.wikipedia.org/wiki/NVM_Express aber auf der Seite von RocketRaid wird auch ein Controller angeboten der es bringen soll obwohl es viele Stimmen im Netz gibt die sagen ist alles Augenwischerei was die bieten. Habe noch keinen Server gefunden der minimal 4 x M.2 oder U.2 onboard hat und zumindest RAID 5 bietet. http://www.highpoint-tech.com/USA_new/CS-product_nvme.htm

Der Hinweis mit den Intel Virtual RAID on CPU ist da sehr gut. Kannte ich nicht. Hab bislang nur Server mit SATA SSDs im Einsatz gehabt und NVME´s erst jetzt so nach und nach im Client Umfeld aber eben noch nie auf Servern. Wohingegen ich schon öfter Consumer PC´s einknicken sehen habe, auf die eine schnelle NVME nachträglich eingebaut wurde.

Daher ein großes Danke an Grinskeks wie auch an Cornitus den die Sache mit dem HOTSWAP ist nicht trivial zu betrachten. Bislang haben wir ein komfortables RAID 6 am laufen das sich doch bewährt hat und ich gern weiter nutzen würde.

Geplant ist eine PM1725b auf Halde zu legen für den Fall das mal eine Platte abschmiert. Aber den Server runter und rauf zu fahren um die Platte zu tauschen, da sträuben sich mir doch die Haare. Wüßte nicht das NVME´s die direkt auf dem PCIe sitzen im laufenden Betrieb getauscht werden können.

Die Standard Lösung ist ja SAS Backplane aber da ist nun mal wieder das SAS der Flaschenhals und die Latenzen werden auch etwas gedrückt. Wie gesagt, da läuft auch ein WTS drauf mit den 10 Heavy Usern ... und Vorgabe ist keine Kompromisse einzugehen was die Leistung angeht.

Vielen Dank nochmal an dieser Stelle für eure Tips, Erfahrungen und Vorshläge, das hilft sehr!

Euer Tom
Member: ukulele-7
ukulele-7 Jul 02, 2019 updated at 15:14:32 (UTC)
Goto Top
Baust du den ganzen Server selber oder willst du "nur" Speicher und ggf. RAID-Controller in einen regulären Server setzen? Der Grund warum es das nicht auf dem Markt gibt wird vermutlich banal sein: Die meisten Chipsätze können diese Bandbreite nicht liefern. Es ist ja schon schwer genug eine Samsung NVMe in einem Desktop mit 3TB/s zu bedienen. Also wie wirst du den NVMe an das Board anbinden oder welches Board wirst du verwenden? Du müsstest pro SSD einmal PCIe 3.0 x8 rechnen für die Anbindung, das kann eigentlich nur über Board und CPU laufen und mit einer PCIe-Karte pro SSD.

Ansonsten weitere Anmerkungen:
DATEV hat vermutlich einen Softwareschutzmodul aka Dongle. Bei VMware kannst du den direkt vom Server in die VM durchschleifen, bei Hyper-V nicht. Ansonsten kenne ich Hyper-V nicht aber das müsste sich damit auch machen lassen, mit einem USB Server.

Finger weg von Highpoint, es ist alles gelogen! Immer.
Member: ukulele-7
ukulele-7 Jul 04, 2019 at 12:51:40 (UTC)
Goto Top
Bin ich grade drüber gestolpert, vielleicht interessant:
https://storagehub.vmware.com/t/vsphere-storage/vsphere-6-7-core-storage ...
Member: TomTest
TomTest Jul 08, 2019 at 10:37:02 (UTC)
Goto Top
ENDLICH! ECHTE NVME RAID CONTROLLER VON FUJITSU !!!!

www.fujitsu.com/de/products/computing/servers/primergy/tower/tx2550m4/

HAbe mir gerade folgende Konfig anbieten lassen:

Fujitsu PRIMERGY TX2550 M5 Tower Server
mit folgender Ausstattung:
2 x Intel Xeon Gold 6234 8C 3,30 GHz
12 x 16 GB RAM DDR4-2933 R ECC
4 x SSD PCIe 3 3,2 TB Mixed Use 2,5"
2 x 10Gb Karte
PRAID Ctrl. 580i / Raid Ctrl. SAS, NVME 8 GB

Ich denke das eröffnet für jeden professionellen Admin echt neue Möglichkeiten...

Thread kann geschlossen werden da die Frage somit bentwortet ist.

Vielen Dank nochmals für eure Rege Teilnahme und Unterstützung.

Euer Tom
Member: Grinskeks
Grinskeks Jul 08, 2019 at 13:06:46 (UTC)
Goto Top
Hallo Tom,

endlich erscheinen vernünftige Hardware-Raid-Controller für NVME auf dem Markt!
Den hätte ich mir auch angesehen, wenn er vor einem Jahr verfügbar gewesen wäre.

Hot Swap auf dem PCIe-Bus ist übrigens mit VROC ebenfalls möglich - inkl. LED-Management.
Mir wäre unwohl dabei, im laufenden Betrieb eine Karte aus dem Board zu ziehen aber es soll sogar "ungeplantes Hot-Plug" funktionieren.


Von RocketRaid habe ich noch nichts gutes gelesen.

Viele Grüße
Grinskeks
Member: ukulele-7
ukulele-7 Jul 08, 2019 at 14:41:02 (UTC)
Goto Top
Schon mit ISA habe ich "ungeplantes Hot-Plug" gemacht face-wink
Member: TomTest
TomTest Jul 11, 2019 at 12:17:44 (UTC)
Goto Top
Hallo Grinskeks und ukulele,

der Controller soll sogar HotPlug im laufenden Betrieb unterstützen, laut distributor.

Suche noch nach dem Haar in der Suppe denn in den Whitepapers steht das es ein SAS Chip ist:

https://sp.ts.fujitsu.com/dmsp/Publications/public/ds-py-praid-ep580i.pd ...

Habe gerade eine Anfrage laufe um zu bestätigen ob wirklich NVME als Übetragungsprotokoll verwendet wird oder SAS?

Halte euch auf dem laufenden.

Gruß Tom
Member: Henere
Henere Jul 30, 2019 at 01:37:17 (UTC)
Goto Top