REFERENZKONFIGURATION · AKTUALISIERT AM 10. NOVEMBER 2026

Server mit 8× RTX PRO 6000: Referenzkonfiguration und Preis

Acht NVIDIA RTX PRO 6000 Blackwell Server Edition bieten 768GB GPU-Speicher in einem einzigen 4U-Server. Unten finden Sie zwei Referenzkonfigurationen auf unserer Plattform NX-G8 Dual SP5 mit zwei AMD-EPYC-Prozessoren der Serie 9004, mit jeder Komponente und ihrem Richtpreis aus unserem Online-Konfigurator – und danach, was Sie für Strom, Kühlung und Software planen sollten.

Auf einen Blick

768GB GPU-Speicher

8 × 96GB GDDR7 mit ECC. Jede GPU lässt sich mit Multi-Instance GPU in bis zu vier isolierte Instanzen teilen.

Zwei AMD EPYC 9004

Plattform mit Sockel SP5 und registriertem DDR5-ECC-Speicher in bis zu 24 Steckplätzen.

Bis zu 4,8 kW für die GPUs

Jede RTX PRO 6000 Server Edition nimmt bis zu 600W auf (konfigurierbar) und ist auf den Luftstrom des Servers angewiesen.

Ab 121.384 $ Richtpreis

Einschließlich acht GPUs, Prozessoren, Arbeitsspeicher, Datenspeicher, Netzwerk und 3 Jahren gewerblicher Hardware-Garantie.

Zwei Referenzkonfigurationen für einen Server mit 8× RTX PRO 6000

Richtpreise in US-Dollar aus unserem Konfigurator am 10. November 2026. Mehrwertsteuer, Lieferung und Verfügbarkeit bestätigen wir in Ihrem schriftlichen Angebot, und die Preise der Komponenten – besonders für GPUs und Arbeitsspeicher – können sich ändern.

Komponente Ausgewogene Konfiguration Preis Einstiegskonfiguration Preis
Plattform NX-G8 Dual SP5 8.162,00 $ NX-G8 Dual SP5 8.162,00 $
GPUs 8× RTX PRO 6000 Blackwell Server Edition 96GB 95.200,00 $ 8× RTX PRO 6000 Blackwell Server Edition 96GB 95.200,00 $
Prozessoren 2× AMD EPYC 9354, 32 Kerne, 3,3 GHz, 256MB L3 3.612,00 $ 2× AMD EPYC 9124, 16 Kerne, 3,0 GHz, 64MB L3 1.960,00 $
Arbeitsspeicher 24× 32GB DDR5-4800 ECC RDIMM (768GB) 26.400,00 $ 12× 32GB DDR5-4800 ECC RDIMM (384GB) 13.200,00 $
Datenspeicher 7,68TB U.2 NVMe (Samsung PM9A3) 3.750,00 $ 3,84TB U.2 NVMe (Samsung PM9A3) 2.050,00 $
Systemspeicher 2× 1,92TB M.2 NVMe (Samsung PM9A3) 2.700,00 $ 2× 1TB M.2 NVMe (Samsung 990 PRO) 580,00 $
Netzwerk 2-Port 100GbE (QSFP28) 578,20 $ 2-Port 25GbE (SFP28) 212,40 $
Betriebssystem Installation von Ubuntu Server 24.04 LTS 20,00 $ Installation von Ubuntu Server 24.04 LTS 20,00 $
Schienen, Stromkabel Enthalten 0,00 $ Enthalten 0,00 $
Garantie 3 Jahre gewerbliche Hardware-Garantie Enthalten 3 Jahre gewerbliche Hardware-Garantie Enthalten
Richtpreis gesamt 140.422,20 $ 121.384,40 $

Im Konfigurator lässt sich eine Erweiterung auf 5 Jahre gewerbliche Hardware-Garantie wählen; Umfang und Preis bestätigen wir im Angebot.

Warum diese Komponenten

  • Arbeitsspeicher so groß wie der GPU-Speicher. Die ausgewogene Konfiguration hat 768GB Arbeitsspeicher, genauso viel wie die GPUs. Das erleichtert das Laden großer Modelle und die Versorgung von Datenpipelines. Ihre 24 Module belegen alle 12 DDR5-Kanäle jedes EPYC-9004-Prozessors für die volle Speicherbandbreite.
  • Acht CPU-Kerne pro GPU. Zwei EPYC 9354 mit je 32 Kernen lassen Reserven für Datenaufbereitung, Tokenisierung und Serving-Software. Die zwei EPYC 9124 mit je 16 Kernen der Einstiegskonfiguration passen zur Inferenz, bei der die Modelle einmal geladen werden und die GPUs die Arbeit machen.
  • Lokales NVMe. Modellgewichte für 768GB GPU-Speicher sind groß; schneller lokaler Speicher verkürzt die Ladezeiten und nimmt Datensätze und Checkpoints auf.
  • Netzwerk passend zur Anwendung. 100GbE eignet sich für schnelle Datenübertragung oder mehrere zusammenarbeitende Server; 25GbE reicht für einen einzelnen Inferenz-Server, der Nutzer bedient.

Wofür 768GB GPU-Speicher gut sind

  • Mehrere große Modelle gleichzeitig betreiben, zum Beispiel mehrere Modelle der 70B-Klasse in 8 Bit, jedes auf einer eigenen GPU oder einem GPU-Paar.
  • Sehr große Modelle über alle acht GPUs. Modelle mit mehreren hundert Milliarden Parametern passen in 8 oder 4 Bit mit Tensor- oder Pipeline-Parallelisierung. Die RTX PRO 6000 hat kein NVLink, die GPUs kommunizieren also über PCIe. Für Inferenz funktioniert das gut, beim Training eines einzelnen großen Modells ist es langsamer als bei Systemen mit NVLink.
  • Nutzung durch mehrere Teams oder Mandanten. Mit Multi-Instance GPU lässt sich jede Karte in bis zu vier isolierte Instanzen teilen – bis zu 32 in einem Server.
  • Fine-Tuning, Rendering und Simulation, wo die FP4- und FP8-Unterstützung von Blackwell, die RT-Cores und die Video-Engines nützlich sind.

Strom, Kühlung und Standort

Allein die acht GPUs können bis zu 4,8 kW aufnehmen, der komplette Server braucht bei Volllast also mehr als 5 kW. Planen Sie dafür einen Rackplatz, Stromkreise und Kühlung. Die passiven GPUs brauchen einen starken Luftstrom von vorne nach hinten, und der Server ist laut – ein Rechenzentrum oder eine Colocation ist der richtige Ort dafür. Leistungsbudget und Netzteilkonfiguration bestätigen wir im Angebot, und auf Wunsch organisieren wir Colocation in Bulgarien.

Alternativen

  • Mehr Speicherbandbreite: Acht H200 NVL bieten 1.128GB HBM3e und NVLink zwischen den GPUs, zu etwa 235.920 $ allein für die GPUs (Richtpreise). Siehe RTX PRO 6000 vs. H200 NVL.
  • Kleineres Budget: jetzt weniger RTX PRO 6000 und später weitere in derselben Plattform, oder RTX 5090 mit 32GB für Modelle, die in 32GB pro GPU passen.
  • Plattformen mit einem Sockel oder PCIe 4.0: unsere anderen 4U-Server kosten weniger, betreiben PCIe-5.0-GPUs aber mit PCIe-4.0-Geschwindigkeit.

Diesen Server von NodeX

NodeX NX-G8 Dual SP5 – die Plattform des Servers mit 8× RTX PRO 6000
NX-G8 Dual SP5: bis zu 8 GPUs mit zwei AMD EPYC SP5 Prozessoren und DDR5 ECC Arbeitsspeicher.

Starten Sie im Konfigurator mit einer der Konfigurationen oben, ändern Sie beliebige Komponenten und senden Sie die Konfiguration als Anfrage. Wir prüfen Kompatibilität, Stromversorgung und Kühlung und antworten mit einem schriftlichen Angebot mit Endpreis, Lieferzeit und Garantie. Eine Anfrage ist noch keine Bestellung. Anfragen nehmen wir auf Deutsch oder Englisch entgegen.

Häufige Fragen

Sind diese Preise endgültig?

Nein. Es sind Richtpreise aus unserem Konfigurator. Das schriftliche Angebot bestätigt Endpreis, Mehrwertsteuer, Lieferung und Verfügbarkeit. Besonders die Preise für GPUs und Arbeitsspeicher ändern sich mit der Zeit.

Kann ich stattdessen die RTX PRO 6000 Workstation Edition verwenden?

Die Server Edition ist für die passive Kühlung in Servern wie diesem ausgelegt. Die Workstation Edition hat eigene Lüfter für Desktop-Workstations. Sprechen Sie uns an, wenn Sie einen bestimmten Grund haben, sie in Betracht zu ziehen.

Lässt sich dieser Server für die GPU-Vermietung bei Vast.ai nutzen?

Ja, er kann für Vermietungsplattformen eingerichtet werden, aber die Einnahmen hängen von der Nachfrage ab und sind nicht garantiert. Lesen Sie vor der Entscheidung unseren Ratgeber zum Hosting bei Vast.ai.

Welche Garantie ist enthalten?

Enthalten sind 3 Jahre gewerbliche Hardware-Garantie, optional erweiterbar auf 5 Jahre. Den Umfang bestätigen wir im Angebot, und Ihre gesetzlichen Rechte bleiben unberührt. Siehe unsere Garantiebedingungen (Englisch).

Quellen

Technische Daten und Plattformangaben stammen aus den unten verlinkten Quellen (auf Englisch). Die Preise stammen aus unserem Konfigurator zum Datum oben auf dieser Seite.