Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 Go GDDR6X

RTX 4090D — et pourquoi ce n'est pas une RTX 4090

La carte installée est la 4090 D, la version conforme aux normes d'exportation de NVIDIA pour le marché chinois. Il ne s'agit ni d'une carte rebadgée ni d'une contrefaçon : c'est une véritable carte AD102 avec moins de shaders et les mêmes 24 Go de mémoire. Si vous êtes arrivé ici en cherchant une carte mère 4090 pour serveur, cette page a pour but de vous informer des différences avant votre achat.

24 Go GDDR6X Deux encodeurs, AV1 Pas d'ECC

Ce que cela coûte, avec la machine

Que signifie le D ?

En décembre 2023, le département du Commerce des États-Unis a fixé un seuil d'exportation que la RTX 4090 a dépassé. NVIDIA a donc commercialisé une version allégée, la RTX 4090 D, en Chine. Lancée le 28 décembre 2023, elle dispose de 14 592 cœurs CUDA contre 16 384 pour la carte complète, soit environ 11 % de shaders en moins.

Pour le reste, la carte est identique. Vingt-quatre gigaoctets de GDDR6X sur un bus 384 bits, la même bande passante mémoire de 1 008 Go/s, la même fréquence boost de 2,52 GHz, les mêmes cœurs de ray tracing de troisième génération et les mêmes cœurs Tensor de quatrième génération, ainsi que les mêmes deux encodeurs AV1. Rien ne change au niveau de la capacité ou de la vitesse de la mémoire, ce qui couvre la plupart des besoins d'une carte louée : les modèles compatibles avec 24 Go le sont toujours, et le flux vidéo reste fluide.

Là où cela se fait vraiment sentir, c'est au niveau des calculs arithmétiques bruts sur les tâches qui saturent les shaders : un rendu long, un entraînement par lots. Prévoyez un budget environ dix fois inférieur à celui d'une RTX 4090 et vous ne serez pas surpris. Nous préférons le préciser plutôt que d'afficher « RTX 4090 » et de vous laisser le découvrir par vous-même, comme le font la plupart des annonces.

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

Le cahier des charges, tel que publié

Ada Lovelace. Chiffres tirés de la documentation officielle de NVIDIA sur la série RTX 40, citée dans la source de cette page.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

Ses points forts et ses points faibles

Il s'agit d'une carte bancaire classique. C'est à la fois son seul avantage et sa seule limite, et il est important de le souligner.

Bon en : calculs par livre

Les puces GeForce offrent la puissance de calcul la plus économique. Leur prix ne comprend ni licence professionnelle ni marge de centre de données ; elles sont donc difficiles à surpasser pour les tâches où une erreur mineure n'entraîne qu'une nouvelle tentative plutôt qu'une catastrophe (rendu par lots, serveurs de jeux, formation de loisirs, inférences réexécutables).

Bon pour : la vidéo, contrairement aux accélérateurs

Deux encodeurs matériels avec prise AV1 et un décodeur. Une 4090 D peut transcoder en continu. Les modèles A100 et H100, plus haut de gamme, ne peuvent pas encoder une seule image matériellement (ils n'ont aucun encodeur). Par conséquent, pour tout projet vidéo, cette carte n'est pas un compromis, c'est la solution idéale.

Mauvais pour : tout ce qui nécessite plus de 24 Go

La limite est de 24 gigaoctets, et elle est atteinte plus vite qu'on ne le pense : un modèle à 13 milliards de paramètres avec une précision de 8 bits y tient, le même modèle à 16 bits ne tient pas, et un modèle à 70 milliards de paramètres ne tient quelle que soit la précision. Le tableau ci-dessous le confirme.

Mauvais pour : un travail qui ne tolère pas un bit inversé

Pas de mémoire de correction d'erreurs, ni de pilote professionnel certifié. Pour une utilisation de plusieurs semaines sans point de contrôle, ou pour une charge de travail sous une licence exigeant une carte professionnelle, une carte standard pour station de travail conviendra. Elles sont disponibles dans tout le catalogue, au prix indiqué .

Ce qu'il a remplacé, et ce qui le remplace

Nous les avons choisis parmi nos propres stocks, et non en fonction du calendrier de développement d'un fournisseur. Ces trois modèles sont disponibles dès aujourd'hui, dans le même châssis ; la question n'est donc pas de savoir lequel est le plus récent, mais lequel justifie la différence de prix.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

La RTX 3090 possède également 24 Go de mémoire et représente l'option la plus ancienne, moins performante et moins chère. Si la capacité est votre principal critère d'achat et non la vitesse, consultez la page dédiée à la série RTX 30 avant d'investir. La RTX 5090, quant à elle, passe à 32 Go et est une carte PCIe Gen 5 compatible avec les plateformes Gen 3 et Gen 4. Lisez donc la section ci-dessous avant de conclure que la nouveauté est synonyme de performances.

Dans quelle machine cela se branche-t-il, et quel lien cela établit-il ?

La 4090 D est une carte PCIe Gen 4. Deux de nos trois plateformes compatibles sont de génération 3, et la troisième est de génération 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

C’est ce qui explique le ticket d’assistance n° 3347 : un client a installé une carte graphique plus récente sur une plateforme plus ancienne et a constaté une baisse de la vitesse de rendu. Une fois la scène ou les poids chargés sur la carte, le slot est inactif et sa génération n’a plus d’importance. Cela devient crucial lorsque le travail traverse le slot à chaque étape.

Que peut-on réellement contenir dans 24 Go ?

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

L'autre limite est la consommation électrique : cette carte consomme jusqu'à 425 W à elle seule, ce qui fait que l'installation de plusieurs exemplaires dans un boîtier nécessite un devis plutôt qu'une simple case à cocher.

Ce que ça coûte, avec la machine dans laquelle ça entre

La fiche technique figure sur une ligne de la facture, la machine sur une autre. Ces deux parties proviennent d'une même lecture du catalogue de commandes ; le prix et les spécifications qui l'accompagnent sont donc toujours liés.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

La bande passante est illimitée dans les deux sens, sans frais de sortie. Une adresse IPv4 est incluse. Il n'y a pas d'engagement et la durée par défaut est d'un mois. Pour toute autre carte installée, le prix est le même. Consultez le catalogue complet pour connaître les prix . Pour les machines installées et prêtes immédiatement, /instantané .

Questions que les gens se posent réellement à propos de cette carte

Si je demande une RTX 4090, est-ce que j'en aurai une complète ?

Ce n'est pas ce que propose cette page. Nous proposons la 4090 D, et cela est clairement indiqué, contrairement à l'indication « RTX 4090 » affichée ici. Si votre application nécessite réellement les 11 % de shaders supplémentaires, veuillez nous préciser de quoi il s'agit. Nous vous indiquerons alors si nous pouvons nous procurer le composant et quel serait le délai de livraison, plutôt que de vous expédier la 4090 D en la faisant passer pour une 4090.

Le D a-t-il une incidence sur la compatibilité CUDA, les pilotes ou les logiciels ?

Non. Elle est reconnue comme une carte GeForce Ada Lovelace, utilise le pilote GeForce standard et toutes les versions CUDA, les frameworks et les moteurs de rendu compatibles avec une 4090 fonctionnent également avec cette carte. La différence réside dans le nombre de shaders, et non dans l'architecture.

Cette carte est-elle partagée avec quelqu'un d'autre ?

Non. Un seul locataire par machine physique, et la carte est directement gérée par votre système d'exploitation : pas d'hyperviseur, pas de partition, pas de partage de temps. Vous installez et fixez votre propre pilote et votre version CUDA, et aucune mise à jour n'est effectuée en arrière-plan.

4090 D ou RTX 3090, si je ne m'intéresse qu'aux 24 Go ?

Dans ce cas, la 3090 est très probablement le meilleur choix, comme le montre le tableau ci-dessus. La 4090 D est nettement plus rapide et prend en charge l'encodage AV1, contrairement à la 3090 ; cette dernière offre les mêmes performances pour un coût mensuel inférieur. Si le modèle correspond à vos attentes et que les tests ne sont pas consécutifs, la carte la plus ancienne l'emporte.

Dans combien de temps puis-je en avoir un ?

Cela dépend si la carte est déjà installée, déjà en stock, ou si elle doit être commandée ; vous en serez informé avant de payer. /instant liste les machines disponibles et prêtes à l'emploi.