REFERENZKONFIGURATION · AKTUALISIERT AM 10. NOVEMBER 2026
Server mit 8× RTX PRO 6000: Referenzkonfiguration und Preis
Acht NVIDIA RTX PRO 6000 Blackwell Server Edition bieten 768GB GPU-Speicher in einem einzigen 4U-Server. Unten finden Sie zwei Referenzkonfigurationen auf unserer Plattform NX-G8 Dual SP5 mit zwei AMD-EPYC-Prozessoren der Serie 9004, mit jeder Komponente und ihrem Richtpreis aus unserem Online-Konfigurator – und danach, was Sie für Strom, Kühlung und Software planen sollten.
Auf einen Blick
768GB GPU-Speicher
8 × 96GB GDDR7 mit ECC. Jede GPU lässt sich mit Multi-Instance GPU in bis zu vier isolierte Instanzen teilen.
Zwei AMD EPYC 9004
Plattform mit Sockel SP5 und registriertem DDR5-ECC-Speicher in bis zu 24 Steckplätzen.
Bis zu 4,8 kW für die GPUs
Jede RTX PRO 6000 Server Edition nimmt bis zu 600W auf (konfigurierbar) und ist auf den Luftstrom des Servers angewiesen.
Ab 121.384 $ Richtpreis
Einschließlich acht GPUs, Prozessoren, Arbeitsspeicher, Datenspeicher, Netzwerk und 3 Jahren gewerblicher Hardware-Garantie.
Zwei Referenzkonfigurationen für einen Server mit 8× RTX PRO 6000
Richtpreise in US-Dollar aus unserem Konfigurator am 10. November 2026. Mehrwertsteuer, Lieferung und Verfügbarkeit bestätigen wir in Ihrem schriftlichen Angebot, und die Preise der Komponenten – besonders für GPUs und Arbeitsspeicher – können sich ändern.
| Komponente | Ausgewogene Konfiguration | Preis | Einstiegskonfiguration | Preis |
|---|---|---|---|---|
| Plattform | NX-G8 Dual SP5 | 8.162,00 $ | NX-G8 Dual SP5 | 8.162,00 $ |
| GPUs | 8× RTX PRO 6000 Blackwell Server Edition 96GB | 95.200,00 $ | 8× RTX PRO 6000 Blackwell Server Edition 96GB | 95.200,00 $ |
| Prozessoren | 2× AMD EPYC 9354, 32 Kerne, 3,3 GHz, 256MB L3 | 3.612,00 $ | 2× AMD EPYC 9124, 16 Kerne, 3,0 GHz, 64MB L3 | 1.960,00 $ |
| Arbeitsspeicher | 24× 32GB DDR5-4800 ECC RDIMM (768GB) | 26.400,00 $ | 12× 32GB DDR5-4800 ECC RDIMM (384GB) | 13.200,00 $ |
| Datenspeicher | 7,68TB U.2 NVMe (Samsung PM9A3) | 3.750,00 $ | 3,84TB U.2 NVMe (Samsung PM9A3) | 2.050,00 $ |
| Systemspeicher | 2× 1,92TB M.2 NVMe (Samsung PM9A3) | 2.700,00 $ | 2× 1TB M.2 NVMe (Samsung 990 PRO) | 580,00 $ |
| Netzwerk | 2-Port 100GbE (QSFP28) | 578,20 $ | 2-Port 25GbE (SFP28) | 212,40 $ |
| Betriebssystem | Installation von Ubuntu Server 24.04 LTS | 20,00 $ | Installation von Ubuntu Server 24.04 LTS | 20,00 $ |
| Schienen, Stromkabel | Enthalten | 0,00 $ | Enthalten | 0,00 $ |
| Garantie | 3 Jahre gewerbliche Hardware-Garantie | Enthalten | 3 Jahre gewerbliche Hardware-Garantie | Enthalten |
| Richtpreis gesamt | 140.422,20 $ | 121.384,40 $ |
Im Konfigurator lässt sich eine Erweiterung auf 5 Jahre gewerbliche Hardware-Garantie wählen; Umfang und Preis bestätigen wir im Angebot.
Warum diese Komponenten
- Arbeitsspeicher so groß wie der GPU-Speicher. Die ausgewogene Konfiguration hat 768GB Arbeitsspeicher, genauso viel wie die GPUs. Das erleichtert das Laden großer Modelle und die Versorgung von Datenpipelines. Ihre 24 Module belegen alle 12 DDR5-Kanäle jedes EPYC-9004-Prozessors für die volle Speicherbandbreite.
- Acht CPU-Kerne pro GPU. Zwei EPYC 9354 mit je 32 Kernen lassen Reserven für Datenaufbereitung, Tokenisierung und Serving-Software. Die zwei EPYC 9124 mit je 16 Kernen der Einstiegskonfiguration passen zur Inferenz, bei der die Modelle einmal geladen werden und die GPUs die Arbeit machen.
- Lokales NVMe. Modellgewichte für 768GB GPU-Speicher sind groß; schneller lokaler Speicher verkürzt die Ladezeiten und nimmt Datensätze und Checkpoints auf.
- Netzwerk passend zur Anwendung. 100GbE eignet sich für schnelle Datenübertragung oder mehrere zusammenarbeitende Server; 25GbE reicht für einen einzelnen Inferenz-Server, der Nutzer bedient.
Wofür 768GB GPU-Speicher gut sind
- Mehrere große Modelle gleichzeitig betreiben, zum Beispiel mehrere Modelle der 70B-Klasse in 8 Bit, jedes auf einer eigenen GPU oder einem GPU-Paar.
- Sehr große Modelle über alle acht GPUs. Modelle mit mehreren hundert Milliarden Parametern passen in 8 oder 4 Bit mit Tensor- oder Pipeline-Parallelisierung. Die RTX PRO 6000 hat kein NVLink, die GPUs kommunizieren also über PCIe. Für Inferenz funktioniert das gut, beim Training eines einzelnen großen Modells ist es langsamer als bei Systemen mit NVLink.
- Nutzung durch mehrere Teams oder Mandanten. Mit Multi-Instance GPU lässt sich jede Karte in bis zu vier isolierte Instanzen teilen – bis zu 32 in einem Server.
- Fine-Tuning, Rendering und Simulation, wo die FP4- und FP8-Unterstützung von Blackwell, die RT-Cores und die Video-Engines nützlich sind.
Strom, Kühlung und Standort
Allein die acht GPUs können bis zu 4,8 kW aufnehmen, der komplette Server braucht bei Volllast also mehr als 5 kW. Planen Sie dafür einen Rackplatz, Stromkreise und Kühlung. Die passiven GPUs brauchen einen starken Luftstrom von vorne nach hinten, und der Server ist laut – ein Rechenzentrum oder eine Colocation ist der richtige Ort dafür. Leistungsbudget und Netzteilkonfiguration bestätigen wir im Angebot, und auf Wunsch organisieren wir Colocation in Bulgarien.
Alternativen
- Mehr Speicherbandbreite: Acht H200 NVL bieten 1.128GB HBM3e und NVLink zwischen den GPUs, zu etwa 235.920 $ allein für die GPUs (Richtpreise). Siehe RTX PRO 6000 vs. H200 NVL.
- Kleineres Budget: jetzt weniger RTX PRO 6000 und später weitere in derselben Plattform, oder RTX 5090 mit 32GB für Modelle, die in 32GB pro GPU passen.
- Plattformen mit einem Sockel oder PCIe 4.0: unsere anderen 4U-Server kosten weniger, betreiben PCIe-5.0-GPUs aber mit PCIe-4.0-Geschwindigkeit.
Diesen Server von NodeX

Starten Sie im Konfigurator mit einer der Konfigurationen oben, ändern Sie beliebige Komponenten und senden Sie die Konfiguration als Anfrage. Wir prüfen Kompatibilität, Stromversorgung und Kühlung und antworten mit einem schriftlichen Angebot mit Endpreis, Lieferzeit und Garantie. Eine Anfrage ist noch keine Bestellung. Anfragen nehmen wir auf Deutsch oder Englisch entgegen.
Häufige Fragen
Sind diese Preise endgültig?
Nein. Es sind Richtpreise aus unserem Konfigurator. Das schriftliche Angebot bestätigt Endpreis, Mehrwertsteuer, Lieferung und Verfügbarkeit. Besonders die Preise für GPUs und Arbeitsspeicher ändern sich mit der Zeit.
Kann ich stattdessen die RTX PRO 6000 Workstation Edition verwenden?
Die Server Edition ist für die passive Kühlung in Servern wie diesem ausgelegt. Die Workstation Edition hat eigene Lüfter für Desktop-Workstations. Sprechen Sie uns an, wenn Sie einen bestimmten Grund haben, sie in Betracht zu ziehen.
Lässt sich dieser Server für die GPU-Vermietung bei Vast.ai nutzen?
Ja, er kann für Vermietungsplattformen eingerichtet werden, aber die Einnahmen hängen von der Nachfrage ab und sind nicht garantiert. Lesen Sie vor der Entscheidung unseren Ratgeber zum Hosting bei Vast.ai.
Welche Garantie ist enthalten?
Enthalten sind 3 Jahre gewerbliche Hardware-Garantie, optional erweiterbar auf 5 Jahre. Den Umfang bestätigen wir im Angebot, und Ihre gesetzlichen Rechte bleiben unberührt. Siehe unsere Garantiebedingungen (Englisch).
Quellen
Technische Daten und Plattformangaben stammen aus den unten verlinkten Quellen (auf Englisch). Die Preise stammen aus unserem Konfigurator zum Datum oben auf dieser Seite.
