Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D — și de ce nu este un RTX 4090

Placa video pe care am instalat-o este 4090 D, ediția conformă cu standardele de export, construită de NVIDIA pentru piața chineză. Nu este o rebadge și nu este un fals: este o placă AD102 autentică, cu mai puține shadere și aceiași 24 GB de memorie. Dacă ați ajuns aici în căutarea unui server 4090, această pagină există pentru a vă arăta diferența înainte de a plăti pentru el.

24 GB GDDR6X Două encodere, AV1 Fără ECC

Cât costă, cu aparatul inclus

Ce înseamnă D-ul

În decembrie 2023, Departamentul Comerțului al Statelor Unite a stabilit un prag de export pe care RTX 4090 l-a depășit. NVIDIA a redus producția unei versiuni pentru a-l depăși și a vândut-o în China: RTX 4090 D. A fost lansată pe 28 decembrie 2023 și are 14.592 de nuclee CUDA față de cele 16.384 ale plăcii complete - cu aproximativ unsprezece procente mai puține shadere.

În rest, aceeași placă video este aceeași. Douăzeci și patru de gigaocteți de memorie GDDR6X pe o magistrală de 384 de biți, aceeași lățime de bandă a memoriei de 1.008 GB/s, aceeași frecvență de boost de 2,52 GHz, aceleași nuclee ray-tracing de a treia generație și nuclee tensor de a patra generație, aceleași două encodere AV1. Nimic din ceea ce depinde de capacitatea memoriei sau de viteza memoriei nu se schimbă, ceea ce acoperă majoritatea cerințelor unei plăci video închiriate: modelele care încap în 24 GB încă încap, iar cadrele care transmit în flux continuu.

Ceea ce te costă este randamentul aritmetic brut al muncii care saturează shaderele - o randare lungă, o rulare de antrenament în lot. Bugetează cu aproximativ o zecime mai puțin decât un 4090 complet și nu vei fi surprins. Spunem asta aici, în loc să tipărim „RTX 4090” pe pagină și să te lăsăm să afli, ceea ce fac majoritatea listărilor.

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Specificația, așa cum a fost publicată

Ada Lovelace. Cifre din documentația proprie a seriei RTX 40 de la NVIDIA, citate în sursa acestei pagini.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

La ce este bun și la ce nu este

Acesta este un card de consum într-un suport. Acesta este întregul său avantaj și întreaga sa limitare, ambele merită menționate clar.

Bun la: aritmetică pe kilogram

Placa de bază GeForce Silicon este cea mai ieftină modalitate de a cumpăra atât de multă putere de calcul. Prețul nu include permisul de conducere profesional și nici marja de eliberare a fondurilor pentru centrele de date, așa că pentru activități în care un bit greșit înseamnă o reîncercare, nu un dezastru - randare în lot, servere de jocuri, antrenament hobby, inferențe pe care le poți rula din nou - este foarte greu de întrecut.

Bun la: video, spre deosebire de acceleratoare

Două encodere hardware cu AV1 și un decodor. Un 4090 D va transcoda toată ziua. Modelele A100 și H100, mai sus în catalog, nu pot codifica niciun cadru în hardware - nu au deloc encoder - așa că pentru orice conține video, această placă nu este compromisul, ci răspunsul corect.

Nu este potrivit pentru: orice are nevoie de mai mult de 24 GB

Douăzeci și patru de gigaocteți reprezintă un zid, și ajunge mai repede decât se așteaptă oamenii: un model de treisprezece miliarde de parametri cu o precizie de opt biți se potrivește, același model cu o precizie de șaisprezece biți nu se potrivește, iar un model de șaptezeci de miliarde nu se potrivește la nicio precizie. Tabelul de mai jos este exact în această privință.

Nu este potrivit pentru: o muncă care nu tolerează o bucată inversată

Fără memorie corectoare de erori și fără șofer profesionist certificat. Pentru o rulare de mai multe săptămâni fără puncte de control sau pentru o sarcină de lucru cu un permis care necesită un card profesional, răspunsul este în schimb un card de pe raftul stației de lucru. Acestea sunt în întregul catalog, la prețul ...

Ce a înlocuit și ce îl înlocuiește

De pe rafturile noastre, nu dintr-o foaie de parcurs a furnizorului. Toate trei pot fi comandate astăzi, în aceeași carcasă, așa că întrebarea nu este care este cel mai nou, ci care merită diferența.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

RTX 3090 are aceiași 24 GB și este varianta mai veche, mai lentă și mai ieftină de a o obține — dacă achiziționați capacitatea și nu viteza, citiți pagina seriei RTX 30 înainte de a cheltui diferența. RTX 5090 ajunge la 32 GB și este o placă PCIe Gen 5 pe platforme Gen 3 și Gen 4, așa că citiți secțiunea de mai jos înainte de a presupune că o versiune mai nouă este mai rapidă aici.

În ce mașină intră și ce legătură ajunge acolo

4090 D este o placă PCIe Gen 4. Două dintre cele trei platforme ale noastre care o acceptă sunt Gen 3, iar una este Gen 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Acesta este motivul pentru care s-a produs tichetul de asistență #3347, în care un client a trecut la o placă mai nouă pe o platformă mai veche și a fost randat mai lent decât înainte. Odată ce scena sau ponderile sunt rezidente pe placă, slotul este inactiv și generarea acesteia nu mai contează. Important este atunci când lucrarea traversează slotul la fiecare pas.

Ce încape de fapt în 24 GB

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Celălalt plafon este puterea: această placă consumă până la 425 W pe cont propriu, ceea ce face ca mai mult de una dintre ele într-o carcasă să fie o construcție pe care o cotăm noi, mai degrabă decât o căsuță pe care o bifăm.

Cât costă, cu mașina în care intră

Cartela este pe o linie de pe factură, iar aparatul pe alta. Ambele jumătăți de mai jos provin dintr-o singură citire a catalogului de comenzi, așadar prețul și specificațiile de lângă acesta aparțin întotdeauna unul celuilalt.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

Lățimea de bandă este nelimitată în ambele direcții, fără taxă de ieșire, este inclusă o adresă IPv4, nu există contract, iar termenul implicit este o lună. Pentru fiecare altă placă pe care o instalăm, cu același preț, citiți întregul catalog, preț ... Pentru mașinile instalate în rack și gata de utilizare astăzi, /instant ...

Întrebări pe care oamenii le pun despre acest card

Voi primi o RTX 4090 completă dacă întreb?

Nu de pe această pagină. Ceea ce am montat este 4090 D, iar pagina spune asta în loc să scrie „RTX 4090” și să spere. Dacă lucrarea ta are nevoie cu adevărat de cele unsprezece procente suplimentare de shadere, spune-ne care sunt acestea și vom spune dacă putem găsi piesa și care ar fi timpul de livrare, în loc să expediem D-ul și să-l numim 4090.

Afectează D-ul compatibilitatea CUDA, a driverelor sau a software-ului?

Nu. Se raportează ca o placă Ada Lovelace GeForce, acceptă driverul GeForce obișnuit și fiecare versiune CUDA, versiune de framework și renderer care rulează pe o placă 4090 rulează pe ea. Diferența constă în numărul de shadere, nu în arhitectură.

Este cardul partajat cu altcineva?

Nu. Un singur client per mașină fizică, iar cardul este transmis direct către propriul sistem de operare — fără hypervisor, fără partiție, fără time-slicing. Instalați și fixați propriul driver și versiunea CUDA, iar nimic nu se actualizează sub tine.

4090 D sau RTX 3090, dacă mă interesează doar cei 24 GB?

Atunci, foarte probabil, 3090 este cea mai bună achiziție, iar clasa de mai sus arată diferența. 4090 D este semnificativ mai rapid și are codificare AV1, în timp ce 3090 nu; 3090 are aceeași capacitate pentru mai puțini bani în fiecare lună. Dacă modelul se potrivește în oricare dintre variante și ciclurile nu sunt consecutive, placa mai veche câștigă la calcule aritmetice.

Cât de curând pot avea unul?

Depinde dacă cardul este deja montat, deja pe raftul nostru sau trebuie cumpărat direct — și ți se spune care dintre acestea înainte de a plăti. /instant listează mașinile instalate și gata chiar acum.