Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D – und warum sie keine RTX 4090 ist

Die verbaute Karte ist die 4090 D, die Exportversion von NVIDIA für den chinesischen Markt. Es handelt sich weder um ein umgelabeltes Modell noch um eine Fälschung: Es ist eine originale AD102-Karte mit weniger Shadern, aber denselben 24 GB Speicher. Falls Sie auf der Suche nach einem Server mit 4090-Grafikkarte sind, erklärt Ihnen diese Seite die Unterschiede, bevor Sie bezahlen.

24 GB GDDR6X Zwei Encoder, AV1 Kein ECC

Was es kostet, mit der Maschine

Was das D bedeutet

Im Dezember 2023 legte das US-Handelsministerium eine Exportgrenze fest, die die RTX 4090 überschritt. NVIDIA reduzierte daraufhin die Leistung einer Version, um diese Grenze zu erfüllen, und verkaufte diese in China: die RTX 4090 D. Sie kam am 28. Dezember 2023 auf den Markt und verfügt über 14.592 CUDA-Kerne im Vergleich zu den 16.384 Kernen der Vollversion – also etwa elf Prozent weniger Shader.

Ansonsten ist die Karte unverändert. 24 Gigabyte GDDR6X auf einem 384-Bit-Bus, dieselbe Speicherbandbreite von 1.008 GB/s, derselbe Boost-Takt von 2,52 GHz, dieselben Raytracing-Kerne der dritten Generation und Tensor-Kerne der vierten Generation, dieselben zwei AV1-Encoder. Nichts, was von der Speicherkapazität oder -geschwindigkeit abhängt, ändert sich, was die meisten Anforderungen an eine Mietkarte erfüllt: Modelle mit 24 GB passen weiterhin, und die Frames werden weiterhin gestreamt.

Der Nachteil liegt in der geringeren Rechenleistung bei anspruchsvollen Shader-Berechnungen – wie langen Renderläufen oder Batch-Trainingsläufen. Planen Sie etwa ein Zehntel weniger als für eine vollwertige RTX 4090 ein, dann werden Sie nicht überrascht sein. Wir weisen hier ausdrücklich darauf hin, anstatt einfach „RTX 4090“ auf die Seite zu schreiben und Sie es selbst herausfinden zu lassen, wie es in den meisten Angeboten üblich ist.

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Die Spezifikation, wie veröffentlicht

Ada Lovelace. Abbildungen aus der Dokumentation der RTX 40-Serie von NVIDIA, zitiert in der Quelle dieser Seite.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

Was es gut kann und was nicht

Das ist eine Kundenkarte im Regal. Das ist ihr ganzer Vorteil und gleichzeitig ihre ganze Einschränkung, und beides sollte man klar benennen.

Gut in: Arithmetik pro Pfund

GeForce-Chips sind die günstigste Möglichkeit, diese Rechenleistung zu erwerben. Im Preis sind keine professionellen Treiberlizenzen oder Rechenzentrumsmargen enthalten. Daher sind sie für Anwendungen, bei denen ein Fehler lediglich einen Wiederholungsversuch und keine Katastrophe bedeutet – wie Batch-Rendering, Spieleserver, Hobby-Schulungen oder wiederholbare Inferenzberechnungen – kaum zu übertreffen.

Gut in: Video, im Gegensatz zu den Gaspedalen

Zwei Hardware-Encoder mit AV1 und ein Decoder. Eine 4090 D kann problemlos transkodieren. Die höherwertigen Modelle A100 und H100 können kein einziges Bild in Hardware codieren – sie besitzen überhaupt keinen Encoder – daher ist diese Karte für alle Anwendungen mit Videoinhalten kein Kompromiss, sondern die optimale Lösung.

Ungeeignet für: alles, was mehr als 24 GB benötigt.

Bei 24 Gigabyte liegt die Grenze, und sie wird schneller erreicht als erwartet: Ein Modell mit 13 Milliarden Parametern passt bei 8-Bit-Genauigkeit, dasselbe Modell mit 16 Bit nicht, und ein Modell mit 70 Milliarden Parametern passt bei keiner Genauigkeit. Die folgende Tabelle gibt dies genau wieder.

Ungeeignet für: Arbeiten, die keine umgedrehten Bits vertragen.

Kein Fehlerkorrekturspeicher und kein zertifizierter Berufsfahrer. Für mehrwöchige Fahrten ohne Kontrollpunkte oder für ein Arbeitspensum, das eine Berufsfahrerkarte erfordert, ist eine Karte aus dem Sortiment der Workstations die richtige Wahl. Diese sind im gesamten Katalog erhältlich und bepreist .

Was es ersetzt hat und was es ersetzt.

Aus unserem eigenen Lagerbestand, nicht von einem Hersteller. Alle drei sind ab sofort im selben Gehäuse bestellbar, daher stellt sich nicht die Frage, welches das neueste ist, sondern welches den Aufpreis wert ist.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

Die RTX 3090 verfügt über dieselben 24 GB und ist die ältere, langsamere und günstigere Alternative. Wenn Ihnen die Speicherkapazität wichtiger ist als die Geschwindigkeit, sollten Sie sich die Seite zur RTX-30-Serie ansehen, bevor Sie mehr Geld ausgeben. Die RTX 5090 bietet 32 GB Speicher und ist eine PCIe-Gen-5-Karte, die auf Plattformen mit Gen-3- und Gen-4-Anschluss läuft. Lesen Sie daher den folgenden Abschnitt, bevor Sie annehmen, dass neuere Modelle automatisch schneller sind.

In welche Maschine es eingeht und welche Verbindung es dorthin herstellt.

Die 4090 D ist eine PCIe-Gen-4-Karte. Zwei unserer drei Plattformen, die sie unterstützen, sind Gen 3, eine ist Gen 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Dies ist der Grund für Support-Ticket Nr. 3347, in dem ein Kunde auf einer älteren Plattform eine neuere Grafikkarte verwendet und dadurch langsamer rendert als zuvor. Sobald die Szene oder die Gewichtungen auf der Grafikkarte gespeichert sind, ist der Speicherslot inaktiv und seine Generierung spielt keine Rolle mehr. Entscheidend ist hingegen, wann die Arbeit den Speicherslot in jedem Schritt durchläuft.

Was passt tatsächlich in 24 GB?

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Die andere Grenze ist der Stromverbrauch: Diese Karte benötigt allein bis zu 425 W, weshalb der Einbau mehrerer dieser Karten in ein Gehäuse eher ein individuelles Projekt darstellt, das wir kalkulieren, als eine einfache Aufgabe, die man einfach abhakt.

Was es kostet, inklusive der Maschine, in die es hineinpasst

Die Karte bildet eine Zeile auf der Rechnung, die Maschine eine andere. Beide Hälften stammen aus einem einzigen Durchlauf des Bestellkatalogs, daher gehören Preis und zugehörige Spezifikation immer zusammen.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

Die Bandbreite ist in beide Richtungen unbegrenzt, es fallen keine Gebühren für ausgehende Verbindungen an, eine IPv4-Adresse ist inklusive, es gibt keine Vertragsbindung und die Standardlaufzeit beträgt einen Monat. Alle anderen von uns verbauten Karten werden zum gleichen Preis angeboten. Den vollständigen Katalog finden Sie hier. Für sofort einsatzbereite Geräte: /instant .

Fragen, die Leute tatsächlich zu dieser Karte stellen

Bekomme ich eine vollwertige RTX 4090, wenn ich danach frage?

Nicht von dieser Seite. Wir verbauen die 4090 D, und das steht auch so auf der Seite, anstatt einfach „RTX 4090“ auszugeben und zu hoffen, dass es passt. Falls Sie für Ihre Arbeit tatsächlich die zusätzlichen elf Prozent Shader benötigen, teilen Sie uns bitte mit, worum es sich handelt. Wir sagen Ihnen dann, ob wir das Bauteil beschaffen können und wie lange die Lieferzeit wäre, anstatt Ihnen die D-Variante als 4090 zu liefern.

Hat das D Auswirkungen auf CUDA, Treiber oder die Softwarekompatibilität?

Nein. Sie wird als Ada Lovelace GeForce-Karte erkannt, verwendet den Standard-GeForce-Treiber und ist mit allen CUDA-Versionen, Framework-Builds und Renderern kompatibel, die auf einer 4090 laufen. Der Unterschied liegt in der Anzahl der Shader, nicht in der Architektur.

Wird die Karte mit anderen Personen geteilt?

Nein. Ein Mandant pro physischer Maschine, und die Karte wird direkt an Ihr eigenes Betriebssystem durchgereicht – kein Hypervisor, keine Partitionierung, kein Time-Slicing. Sie installieren und fixieren Ihren eigenen Treiber und Ihre eigene CUDA-Version, und es werden keine Aktualisierungen im Hintergrund durchgeführt.

4090 D oder RTX 3090, wenn es mir nur auf die 24 GB ankommt?

Dann ist die 3090 höchstwahrscheinlich die bessere Wahl, und die obige Tabelle verdeutlicht den Unterschied. Die 4090 D ist deutlich schneller und verfügt über AV1-Codierung, die die 3090 nicht bietet; die 3090 bietet die gleiche Leistung zu geringeren monatlichen Kosten. Wenn beide Modelle gleichwertig sind und die Testläufe nicht direkt nacheinander erfolgen, ist die ältere Karte rechnerisch die bessere Wahl.

Wie schnell kann ich eins bekommen?

Das hängt davon ab, ob die Karte bereits installiert, vorrätig oder erst bestellt werden muss – dies wird Ihnen vor der Bezahlung mitgeteilt. /instant listet die aktuell verfügbaren und einsatzbereiten Geräte auf.