gruenesossemitspeck
Goto Top

HP SL165Z Gen7 Speicherbestückung Fragen

Hi, ich hatte vor einiger Zeit mal einen Gen7 HP Blade (2xmit Opteron 6172) erworben, mit 192 GB RAM, das Ding nennt sich SL165z und wird normalerweise paarweise in einem 4 HE Kasten verbaut, ich hab aber nur einen einzelnen davon.

Das Mainboard hat 24 Speicherslots, 8 davon sind weiß markiert, die anderen 16 sind schwarz, jeweils 1x weiß dann 2x Schwarz, 1x weiß u.s.w.

Dann hatte ich 128 GB in ein anderes Board eingebaut, 128 waren aber nicht genug, hab mir 256 besorgt und wollte den Blade wieder vollmachen und verkaufen.

Aber ich krieg irgendwie den Speicher nicht mehr richtig zusammen (ich hatte dann alle Module ausgebaut in dem Glaube daß sie alle gleich waren), und da waren dann 10x DDR3 1066 und 14x DDR3 1333, und die hatten auch noch unterschiedliche, aber paarweise immer gleiche CL Angaben.

Leider schweigt sich die Doku zu dem Mainboard aus, welche Speicherslots zu einem Dual-Slot gehören und welche einzeln zu benutzen sind, da steht nur daß 1/3, 4/6, 7/9 und 10/12 jeweils "Single" oder "Double" und 2,5,8,11 "quad" Bank Module unterstützen... nur benimmt sich das Board nicht so, bestimmte Kombinationen wie CL7 und CL9 gehen ja auch nicht als Dual-Slot...

meine Frage ist nun, welche Slots nun wirklich "dual slots" sind, sprich die mit vom Timing und Frequenz identischen Modulen bestückt werden müssen und welche sind Einzelslots? Das Bios ist da leider auch nicht hilfreich, das zeigt mir nur 4 Nodes mit DCT0 und DCT1 an, und diese Nodes sind jeweils Hälften der CPUs, eine CPU enthält zwei NUMA Nodes, folglich gehören zu jedem Memory controller in den CPUs 6 Slots.

Nur von wo an werden die wirklich gezählt?
Ich hab im Netz darüber nichts gefunden und die HP-Dokumentation enthält keine Bestückungsregeln so wie sie z.B. bei Supermicro beschrieben sind.

Content-Key: 524281

Url: https://administrator.de/contentid/524281

Ausgedruckt am: 29.03.2024 um 08:03 Uhr

Mitglied: cykes
cykes 11.12.2019 um 21:42:23 Uhr
Goto Top
Nabend,

Nur von wo an werden die wirklich gezählt?
Ich hab im Netz darüber nichts gefunden und die HP-Dokumentation enthält keine Bestückungsregeln so wie sie z.B. bei Supermicro beschrieben sind.
Nicht ganz richtig face-wink Ich hatte Dir in Deinem anderen Thread bereits den M&S Guide verlinkt: http://h20628.www2.hp.com/km-ext/kmcsdirect/emr_na-c02074307-5.pdf
Auf Seite 64/65 steht die RAM-Konfiguration.

Gruß

cykes
Mitglied: GrueneSosseMitSpeck
GrueneSosseMitSpeck 12.12.2019 um 11:45:28 Uhr
Goto Top
habich gelsen aber es fehlt was.

Die "memory bank number" geht nicht auf den Umstand ein, daß pro CPU 2 Memory controller enthalten sind, sondern da steht nur memory bank number, aber wie teile ich drei "Memory banks" auf 2 Numa-Nodes auf?1-6 für Numa node 1 und 7-12 für Numa node 2?
Hat dann ein Numa Node vier und einer zwei Dimm-Slots angeschlossen?
Mitglied: GrueneSosseMitSpeck
GrueneSosseMitSpeck 13.12.2019 aktualisiert um 18:44:45 Uhr
Goto Top
add
Das HP Manual beschreibt die Bestückungsregeln falsch, die Speicherbank 1 voll bestücken (4x8 GB 1066), also Slot 1,4,7,10 und Bank 2 (4x8 GB 1033 in Slot 2,5,8,11) führt dazu daß am Ende das Board nicht bootet.

Offenbar macht das Board wohl Bank-interleave nach dem Muster Slot 1 + Slot 2, eventuell noch 1+2+4+5, jedenfalls krieg ich 16 GB angezeigt wenn ich in Slot 1 und Slot 2 -und damit Bank 1 und Bank 2 mit jeweils einem 8 GB Modul bestücke.

Stecken zwei vollkommen zueinander inkompatible Module in Slot 1 und 2 dann wird der Speicher dort nicht verwendet und wenn nicht an der anderen CPU wenigsens ein Speichermodul erkannt wird, dann bleibt der Bildschirm schwarz, man könnte dann noch über das iLO nachschauen was da los ist... ist mir dann aber doch zu mühsam.
Mitglied: cykes
Lösung cykes 13.12.2019 aktualisiert um 19:58:37 Uhr
Goto Top
Nabend,

Zitat von @GrueneSosseMitSpeck:
Offenbar macht das Board wohl Bank-interleave nach dem Muster Slot 1 + Slot 2, eventuell noch 1+2+4+5, jedenfalls krieg ich 16 GB angezeigt wenn ich in Slot 1 und Slot 2 -und damit Bank 1 und Bank 2 mit jeweils einem 8 GB Modul bestücke.

Stecken zwei vollkommen zueinander inkompatible Module in Slot 1 und 2 dann wird der Speicher dort nicht verwendet und wenn nicht an der anderen CPU wenigsens ein Speichermodul erkannt wird, dann bleibt der Bildschirm schwarz, man könnte dann noch über das iLO nachschauen was da los ist... ist mir dann aber doch zu mühsam.
Du hast vermutlich nur SR bzw. DR RDIMM Module vorliegen!? Ich verstehe die Matrix so, dass man den Regeln in Zeile 3 ("RDIMM Population order without QR") folgen muss, d.h. In DIMM Sockel/Slot 1, 7, 4, 10 müssen identische Module stecken. Dann geht es weiter mit 3, 9, 6, 12 mit dem nächsten 4er-Pack. Und zuletzt 2, 8, 5, 11 mit dem letzten 4er-Pack für CPU1.
Und nach dem gleichen Schema dann für die zweite CPU.

Falls QR Module zum Einsatz kommen, muss man eben der Zeile 5 ("Population order with QR along with SR/DR") folgen und die Sortierung entsprechend anpassen (QR Module passen NUR in die Slots 2, 8, 5 und 11)

Gruß

cykes
Mitglied: GrueneSosseMitSpeck
GrueneSosseMitSpeck 13.12.2019 um 21:01:14 Uhr
Goto Top
Genau das hat mir gefehlt.. hab ich durch Probieren auch schon teilweise ermittelt, aber ganz verstanden hab ichs noch nicht.

Aber ich hatte eine Kombination bei der mit Slot 1-12 bei einer CPU 96 GB angezeigt wurden, da war meine Laune schon wieder etwas besser und wenn ich die Module von Slot 7-12 von CPU1 in 1-6 von CPU2 stecke hab ich immer noch 96 Gb... bin bei 144 angelangt, und um weiter zu kommen war deine Info echt hilfreich.

Vielleicht probier ichs noch mal wenn das Baby gebadet ist und schläft face-smile

QR dimms mit 16 GB hab ich auch, aber davon nimmt es nur 8 Stück womit ich wieder bei 128 GB ende.
Mein Hana-Experiment benötigt aber 256 GB, deshalb hab ich mir nen anderes Board geholt bei dem direkt beistand, was wie bestückt werden muß und das hat auch 16 Stck der 16er gefressen.
Mitglied: cykes
cykes 13.12.2019, aktualisiert am 14.12.2019 um 07:11:54 Uhr
Goto Top
Vielleicht wird es etwas klarer, wie HP das gemeint hat, wenn ich mal die Buchstaben für die Sortierung daneben schreibe (Zeile 3, Zeile 5 dann entsprechend umsortieren):

A, B, C, D | 1, 7, 4, 10
E, F, G, H | 3, 9, 6, 12
I, J, K, L | 2, 8, 5, 11
(Wobei das auch je Zeile paarweise gleiche Module sein können, also bspw. 1, 7 und 4, 10 - das liefert aber eine schlechtere Performance)
[EDIT] Wichtig ist hier, dass man die alphabetische Reihenfolge bei der Bestückung einhält: A, B, C, ...., K, L - also nicht etwas irgendwas überspringt.

Das Board unterstützt aber wohl nur max. 192GB, womit man eben mit 16GB QR Modulen auch nicht besonders weit kommt, dann kann man es wohl nur halb bestücken.

Ich musste die Matrix und die zugehörige Legende aber auch mindestens 3x lesen face-wink
Mitglied: GrueneSosseMitSpeck
GrueneSosseMitSpeck 15.12.2019 aktualisiert um 20:55:30 Uhr
Goto Top
Durch langes langes Probieren hab ich nämlich herausgefunden daß da was fehlt - nämlich die Beziehung der Slots der CPU1 und CPU2. Das bleibt im HP Manual unerwähnt, ist aber wohl dem Memory controller der AMD CPUs geschuldet.

Im Berufsleben man natürlich immer 8 gleiche Module zur Hand, dann hätte man Slot 1,4,7,10 für beide CPUs befüllt, oder idealerweise 24x die gleichen Module, aber das war bei meinen 8 GB Steinchen nicht der Fall und die 16er schluckt das Board (anders als die Angaben von HP) nämlich nicht.

Es gibt zwar schon "Affinitäten" aber nicht so wie du das beschreibst... Slot 1 und 4 von CPU 1 und 2 müssen identische Module enthalten, dasselbe gilt für Slot 3 und 6 bei beiden CPUs, dann Slot 7 und 9 von CPU 1 und 2 sowie Slot 10 und 12 von CPU1 und 2

Ferner haben die übriggeblieben Slots nur eine "Affinität" für 2 Dims und zwar in den Slotnummern 2,5,8,11
Ich hatte 6x ddr1333 () und 18x 1066, und die in allen möglichen verschiedenen Timings, 7-10, 7-11, 7-12 sowie 9-11 und 9-12.

Ich hatte mich nämlich sehr gewundert nachdem ich 1-4-7-10 bei einer CPU mit TypA von Speicher und 1-4-7-10 bei der anderen CPU mit Typ B bestückt hatte und dann bootete der Server nicht.
Mitglied: cykes
cykes 15.12.2019 um 17:29:34 Uhr
Goto Top
Was ich noch nicht so ganz herauslese: Werden jetzt die vollen 192 GB erkannt?
Mitglied: GrueneSosseMitSpeck
GrueneSosseMitSpeck 15.12.2019 um 20:06:12 Uhr
Goto Top
ja, nachdem ich das angehänge Schema zur Anwendung gebraucht hatte.
Vorher war ich auf maximal 144 gekommen, CPU Bank 1-12 und CPU2 7-12 bestückt. Mehr ging aber nicht, ein Modul mehr und mir wurden deutlich niedrigere GB angezeigt, und da war mir so langsam klar, daß die Dimm-Slots der CPU1 und CPU2 untereinander irgendeine Beziehung hatten.

Es galt nämlich, die offenbar vom Vorbesitzer aus der Restekiste gefischten Module wieder so ins Board zu friemeln, wie ich es auch gekriegt hatte. Ich hatte dann 16 der Module in mein Supermicro Board gesteckt, das nicht so rumgezickt hat wie das HP.Board und mir nicht aufgeschrieben, wie sie im HP Server gesteckt waren.

Und das waren:

2xddr1333 9-11
4xddr1333 9-12
10xddr1066 7-10
4xddr1066 7-11
4xddr1066 7-12

Hat schon den Windows 10 Memtest, eine Windows 10-Installlation und einen größeren Videokompressionslauf im Magix Videostudio überlebt.
sl165z speicherbelegung
Mitglied: GrueneSosseMitSpeck
GrueneSosseMitSpeck 19.12.2019 um 17:36:24 Uhr
Goto Top
ich glaub das war eine Option mit dem Namen "node interleave".