GPU-RATGEBER · AKTUALISIERT AM 11. NOVEMBER 2026

RTX PRO 6000 vs. RTX 5090: Welche GPU für KI-Anwendungen?

Beide sind NVIDIA-Blackwell-GPUs mit GDDR7 an einer 512-Bit-Schnittstelle und Tensor-Cores der fünften Generation. Für KI ist der entscheidende Unterschied der Speicher: 96GB bei der RTX PRO 6000 gegenüber 32GB bei der RTX 5090. Dieser Ratgeber vergleicht beide bei technischen Daten, Kosten pro GB GPU-Speicher, Leistungsaufnahme und den Modellen, die jeweils laufen – damit Sie nach Ihrer Anwendung wählen und nicht nach dem Preis einer einzelnen Karte.

Die kurze Antwort

  • Wählen Sie die RTX 5090, wenn Ihre Modelle in 32GB pro GPU passen – zum Beispiel Sprachmodelle mit 8 bis 14 Milliarden Parametern oder Bildgenerierung – und Sie den niedrigsten Preis pro Karte wollen.
  • Wählen Sie die RTX PRO 6000, wenn der Speicher die Grenze ist: 70B-Modelle in 8 Bit, lange Kontexte, mehrere Nutzer, Fine-Tuning, oder wenn Sie ECC-Speicher und Multi-Instance GPU brauchen. Zu unseren Richtpreisen ist sie auch pro GB GPU-Speicher günstiger.

RTX PRO 6000 vs. RTX 5090: technische Daten im Vergleich

Die Werte stammen aus den veröffentlichten Angaben von NVIDIA. Die RTX PRO 6000 gibt es in drei Versionen; wo sie sich unterscheiden, ist die Version genannt.

RTX PRO 6000 Blackwell RTX 5090
Architektur Blackwell Blackwell
GPU-Speicher 96GB GDDR7 mit ECC 32GB GDDR7 (ECC von NVIDIA nicht angegeben)
Speicherschnittstelle 512 Bit 512 Bit
Speicherbandbreite 1.792 GB/s (Workstation und Max-Q), 1.597 GB/s (Server Edition) 1.792 GB/s
CUDA-Kerne 24.064 21.760
Tensor-Cores 5. Generation 5. Generation
AI TOPS (Angabe von NVIDIA) 4.000 (Workstation Edition, FP4 mit Sparsity) 3.352
RT-Core-Leistung 380 TFLOPS (Workstation Edition) 318 TFLOPS
Video-Engines 4 Encoder, 4 Decoder 3 Encoder, 2 Decoder
Multi-Instance GPU Bis zu 4 isolierte Instanzen Von NVIDIA nicht angegeben
NVLink Nein Nein
Maximale Leistungsaufnahme 600W (Workstation), 300W (Max-Q), bis zu 600W (Server Edition) 575W Gesamtleistung der Grafikkarte
Serverversion bei NodeX Server Edition, passiv: 11.900 $ Modifiziert, 32GB, Dual-Slot, passiv: 4.690 $
Preis pro GB GPU-Speicher Etwa 124 $ Etwa 147 $

Die Preise sind NodeX-Richtpreise in US-Dollar laut unserem Konfigurator am 11. November 2026. Mehrwertsteuer, Lieferung und Verfügbarkeit bestätigen wir in Ihrem schriftlichen Angebot.

Gleich viel Speicher im Vergleich

Eine einzelne RTX 5090 ist viel günstiger als eine einzelne RTX PRO 6000. Vergleicht man beide bei gleichem GPU-Speicher, sieht es anders aus:

GPU-Speicher gesamt Mit RTX PRO 6000 Server Edition Mit RTX 5090
96GB 1 Karte, 11.900 $, bis zu 600W 3 Karten, 14.070 $, bis zu 1.725W
192GB 2 Karten, 23.800 $, bis zu 1.200W 6 Karten, 28.140 $, bis zu 3.450W

Die Leistungswerte sind die NVIDIA-Höchstwerte pro Karte mal die Zahl der Karten, nur für die GPUs. In einem Server mit acht GPUs liegt der Unterschied im Gesamtspeicher: Acht RTX PRO 6000 Server Edition bieten 768GB für 95.200 $, acht RTX 5090 bieten 256GB für 37.520 $.

Welche Modelle passen

32GB – eine RTX 5090

Modelle mit 8B bis 14B Parametern in 8 oder 16 Bit; Modelle der 32B-Klasse in 4 Bit mit kurzem Kontext.

96GB – eine RTX PRO 6000

70B-Modelle in 8 Bit mit Platz für den Kontext; 32B-Modelle in 16 Bit; Mixture-of-Experts-Modelle mit etwa 120B Parametern in 4 Bit.

Ein Modell, das nicht auf eine Karte passt, muss auf mehrere verteilt werden. Keine der beiden GPUs hat NVLink, verteilte Modelle tauschen Daten also über PCIe aus, was Latenz kostet. Eine Karte mit 96GB vermeidet die Aufteilung, wo drei Karten mit 32GB sie bräuchten. Die Rechnung zum Speicherbedarf zeigt unser Ratgeber KI-Server für lokale LLMs.

Welche passt zu Ihrem Projekt?

Bildgenerierung und kleine Modelle

RTX 5090. Wenn die Arbeit in 32GB passt, bekommen Sie Blackwell-Leistung zu einem viel niedrigeren Preis pro Karte.

Viele unabhängige Aufgaben

RTX 5090, eine Aufgabe pro GPU. Acht Karten in einem Server ergeben acht getrennte GPUs für parallele Arbeit.

Private LLMs für ein Team

RTX PRO 6000. 70B-Modelle in 8 Bit passen auf eine Karte, mit Platz für den Kontext mehrerer Nutzer.

Fine-Tuning

RTX PRO 6000. 96GB pro GPU verringern die Notwendigkeit, das Training auf mehrere Karten zu verteilen.

Geteilte GPUs

RTX PRO 6000. Multi-Instance GPU teilt eine Karte in bis zu vier isolierte Instanzen.

Etwas dazwischen

Unsere modifizierte RTX 4090 48GB (4.000 $ Richtpreis) bietet 48GB pro Karte.

Beide GPUs in Servern von NodeX

8-GPU-Server NodeX NX-G8 Dual SP5 für RTX PRO 6000 oder RTX 5090
NX-G8 Dual SP5: bis zu 8 GPUs mit zwei AMD EPYC SP5 Prozessoren und DDR5 ECC Arbeitsspeicher.

Wir bauen in Bulgarien 4U-GPU-Server mit beiden GPUs, von einer Karte bis zu acht. Die RTX 5090 in unserem Angebot ist eine modifizierte Dual-Slot-Konfiguration mit passiver Kühlung für Server mit Zwangsbelüftung; die RTX PRO 6000 ist die Server Edition. Ihr schriftliches Angebot bestätigt Kompatibilität, Stromversorgung und Kühlung, Lieferung und Garantie. Versionen, Preise und alle technischen Daten der RTX PRO 6000 finden Sie in unserem Ratgeber zur RTX PRO 6000 Blackwell. Anfragen nehmen wir auf Deutsch oder Englisch entgegen.

Häufige Fragen

Eignet sich die RTX 5090 für einen Server?

Die RTX 5090 in unserem Angebot ist eine modifizierte Dual-Slot-Konfiguration mit 32GB und passiver Kühlung, gedacht für ein kompatibles Servergehäuse mit geeigneter Zwangsbelüftung. Die Garantie bestätigen wir in Ihrem schriftlichen Angebot.

Kann ich RTX 5090 und RTX PRO 6000 in einem Server mischen?

Technisch ja, aber ein Modell, das auf verschiedene GPUs verteilt ist, wird von der langsamsten Karte und dem kleinsten Speicher begrenzt. Identische GPUs sind einfacher zu betreiben und zu erweitern. Die Konfiguration bestätigen wir in Ihrem Angebot.

Ist die RTX PRO 6000 schneller als die RTX 5090?

Nach den Angaben von NVIDIA hat die RTX PRO 6000 mehr CUDA-Kerne und einen höheren AI-TOPS-Wert, und die Workstation Edition und die RTX 5090 haben beide 1.792 GB/s Speicherbandbreite. Der größere praktische Unterschied für KI ist, dass der dreifache Speicher größere Modelle auf einer Karte laufen lässt.

Quellen

Technische Daten und Plattformangaben stammen aus den unten verlinkten Quellen (auf Englisch). Die Preise stammen aus unserem Konfigurator zum Datum oben auf dieser Seite.