Serveurs GPU · Série RTX 40
Serveur dédié RTX 4090 et le GPU qu’il contient est la RTX 4090D
Notre serveur dédié RTX 4090 embarque la RTX 4090D, l’édition que NVIDIA a conçue pour la Chine : les mêmes 24 GB de GDDR6X et la même vitesse mémoire, avec environ 11% de cœurs CUDA en moins. Vous louez la machine entière au mois, le GPU complet est transmis directement à votre propre système, et le port est sans limite de trafic.
| Caractéristique | RTX 4090 | RTX 4090D |
|---|---|---|
| Cœurs CUDA | 16,384 | 14,592 |
| Cœurs Tensor | 512 | 456 |
| Mémoire | 24 GB GDDR6X | 24 GB GDDR6X |
| Bande passante | 1,008 GB/s | 1,008 GB/s |
| Fréquence boost | 2.52 GHz | 2.52 GHz |
| Encodeurs AV1 | 2 | 2 |
| Puissance de la carte | 450 W | 425 W |
Un GPU RTX 40 série reste inutilisé ?
Mettez la machine sur la place de marché Primcast, fixez votre propre prix mensuel et louez-la à ceux qui ont besoin de cette puissance de calcul.
00Place de marché
Ou louez un GPU RTX 40 série directement à son propriétaire
Les propriétaires mettent ces machines en ligne sur notre place de marché et fixent eux-mêmes leur prix. Une annonce gérée par notre société sœur, Server Room, se loue sur serverroom.net, pas ici.
01RTX 4090D vs RTX 4090
Ce que le D de la RTX 4090D change pour votre travail
Fin 2023, une règle d’exportation américaine a placé la RTX 4090 au-delà de la limite autorisée à la vente en Chine. NVIDIA a répondu avec la RTX 4090D, sortie le 28 December 2023, dotée de 14,592 cœurs CUDA là où le GPU complet en compte 16,384.
Ce qui ne change pas
La mémoire est intacte : 24 GB de GDDR6X sur un bus de 384 bits à 1,008 GB/s. Tout comme la fréquence boost de 2.52 GHz et la paire d’encodeurs AV1. Tout ce qui est limité par la taille ou la vitesse de la mémoire se comporte exactement comme sur une 4090 complète : un modèle qui tient dans 24 GB tient toujours, et il se lit tout aussi vite.
Les pilotes et les logiciels ne voient aucune différence. C’est un GPU GeForce Ada Lovelace, il accepte le pilote GeForce standard, et chaque version de CUDA, framework et moteur de rendu qui tourne sur une 4090 tourne dessus.
Ce à quoi vous renoncez
Environ 11% des shaders et des cœurs Tensor. NVIDIA a estimé l’écart réel à environ 5% dans les jeux et les applications créatives, car les fréquences et la mémoire assument une grande partie de la charge. Sur un travail qui sollicite tous les shaders en continu, comme un long rendu ou un entraînement, prévoyez jusqu’à un dixième de moins qu’une 4090 complète.
Nous vous le disons avant que vous commandiez, plutôt que d’imprimer “RTX 4090” et de vous laisser le découvrir plus tard. Si votre travail exige vraiment le GPU complet, demandez sur le chat et nous vous dirons si nous pouvons en trouver un et sous quel délai.
02À quoi il sert
Ce qu’un serveur GPU 4090 fait bien, et là où il s’arrête
C’est un GPU grand public dans un rack. C’est ce qui maintient le prix bas, et c’est aussi de là que viennent ses limites.
01Calcul par euro
Beaucoup de calcul pour le prix
Le silicium GeForce est l’un des moyens les moins chers de louer autant de puissance de calcul. Il convient aux travaux où un mauvais résultat signifie une nouvelle exécution, pas une catastrophe : rendu par lots, serveurs de jeux, ajustement fin de petits modèles, inférence que vous pouvez répéter.
02Vidéo
Il encode la vidéo, les accélérateurs non
Deux encodeurs matériels avec AV1, plus un décodeur, pour transcoder toute la journée. Les A100 et H100 plus haut dans notre catalogue n’ont aucun encodeur vidéo. Pour tout ce qui touche à la vidéo, ce GPU est le bon choix, pas le compromis. Voir nos serveurs de transcodage pour le travail sur des chaînes en direct.
03Mémoire
La limite est de 24 GB
Un modèle de 13 milliards de paramètres tient en 8 bits, le même modèle en 16 bits non, et un modèle de 70 milliards ne tient à aucune précision. Le tableau de dimensionnement plus bas est précis sur ce point.
04Longues exécutions
Pas de mémoire à correction d’erreur
Il n’y a pas d’ECC ni de pilote professionnel certifié. Pour une exécution qui dure des semaines sans points de contrôle, ou un logiciel dont la licence exige un GPU professionnel, regardez plutôt la L40S avec 48 Go et ECC.
03Spécifications
Spécifications de la NVIDIA RTX 4090D
Les chiffres du GPU que nous installons, tirés de la documentation NVIDIA de la série RTX 40 et de la matrice de prise en charge de l’encodage et du décodage de NVIDIA.
RTX 4090D
Ada Lovelace
24 GB GDDR6X
14,592
1,008 GB/s
425 W
PCIe Gen 4 x16
2 NVENC, 1 NVDEC, AV1
No
04Choisir
Serveur RTX 4090, RTX 3090 ou RTX 5090 ?
Les trois sont en stock aujourd’hui et s’installent dans les mêmes machines. La question n’est donc pas laquelle est la plus récente, mais laquelle vaut la différence pour votre travail.
| GPU | GPU memory | The GPU | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
La RTX 3090 a les mêmes 24 GB et constitue le moyen plus ancien et plus lent de les obtenir. Si c’est la taille de la mémoire qu’il vous faut et que la vitesse compte moins, lisez d’abord la page des serveurs RTX 30 série. La RTX 5090 passe à 32 GB de GDDR7. C’est un GPU PCIe Gen 5 qui s’installe dans des plateformes Gen 3 et Gen 4, alors lisez la section suivante et la page des serveurs RTX 5090 avant de supposer que plus récent signifie plus rapide ici.
05La machine
Dans quelle machine la RTX 4090D s’installe, et sa liaison PCIe
La 4090D est un GPU PCIe Gen 4. Chaque plateforme ci-dessous montre le slot qu’elle reçoit et ce que cela signifie en pratique.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Nous avons vu un client passer à un GPU plus récent sur une plateforme plus ancienne et rendre plus lentement qu’avant. Une fois que la scène ou les poids sont en mémoire GPU, le slot est silencieux et sa génération n’a plus d’importance. Elle compte quand votre travail pousse des données à travers le slot à chaque étape. Dites-nous ce que vous allez exécuter et nous vous orienterons vers la bonne machine.
06Dimensionnement
Ce qui tient dans 24 Go de mémoire GPU
Poids uniquement. Laissez de la place pour le contexte et l’exécution par-dessus.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB, fits | 8 GB, fits | 5 GB, fits |
| 13-14 billion parameters | 28 GB, does not fit | 14 GB, fits | 8 GB, fits |
| 30-34 billion parameters | 68 GB, does not fit | 34 GB, does not fit | 19 GB, tight |
| 70 billion parameters | 140 GB, does not fit | 70 GB, does not fit | 38 GB, does not fit |
L’autre limite, c’est la puissance. Une 4090D consomme jusqu’à 425 W, c’est pourquoi plus d’une dans une machine est une configuration que nous chiffrons, pas une case à cocher. Pour aborder la question dans l’autre sens, de votre modèle au GPU dont il a besoin, utilisez la page de dimensionnement mémoire LLM.
07Prix
Prix des serveurs RTX 4090D, avec la machine
Le GPU est une ligne sur votre facture et le serveur en est une autre. Les deux proviennent du catalogue de commandes utilisé par le paiement, donc chaque prix ci-dessous correspond à la machine qui l’accompagne.
| GPU | The machine it goes in | The GPU | Complete, per month |
|---|---|---|---|
| RTX 4090D | Intel Xeon E5-2600 v3/v4 | $299 | $372.47 Configure this build → |
| RTX 4090D | Intel Xeon Silver / Gold | $299 | $382.67 Configure this build → |
| RTX 4090D | AMD EPYC | $299 | $516.59 Configure this build → |
Le port est sans limite de trafic dans les deux sens, sans frais de sortie. Une adresse IPv4 est fournie avec le serveur, il n’y a pas de contrat, et vous payez un mois à la fois. Pour comparer tous les GPU que nous installons, au même tarif, voir tous les serveurs GPU avec prix.
08Livraison et assistance
Sous quel délai vous le recevez, et qui vous répond
Cela dépend de l’endroit où se trouve le GPU au moment de votre commande. Vous êtes informé du cas qui s’applique avant de payer.
- Environ 30 minutes
Déjà en rack
Une machine avec le GPU installé est déjà en rack. Elle est à vous environ 30 minutes après l’approbation de la commande.
- 4 à 24 heures
Sur notre étagère
Nous installons un GPU que nous avons déjà en stock dans le serveur que vous avez choisi.
- 5 à 10 jours ouvrés
Acheté sur commande
Nous commandons le GPU auprès d’un distributeur pour vous, puis nous l’installons dans votre serveur.
Les questions avant ou après votre commande passent par notre chat. Un assistant IA répond en quelques secondes et peut consulter votre compte et votre serveur, et une personne de notre équipe intervient dès que vous le demandez. Les machines en rack et prêtes immédiatement sont sur les serveurs instantanés.
09Questions
Questions sur la location d’un serveur RTX 4090
01La RTX 4090D est-elle identique à une RTX 4090 ?
Pas tout à fait. C’est la même puce AD102 avec les mêmes 24 GB de GDDR6X, la même bande passante de 1,008 GB/s et la même fréquence boost, mais avec 14,592 cœurs CUDA au lieu de 16,384. NVIDIA l’a conçue pour la Chine après qu’une règle d’exportation américaine a couvert la 4090 complète. C’est un vrai GPU NVIDIA, pas un simple rebadgeage.
02De combien la RTX 4090D est-elle plus lente ?
NVIDIA l’a estimée à environ 5% dans les jeux et les applications créatives. Sur les charges qui sollicitent tous les shaders, l’écart peut atteindre la différence de 11% du nombre de cœurs. Tout ce qui est limité par la taille ou la vitesse de la mémoire fonctionne comme sur une 4090 complète.
03Puis-je obtenir une RTX 4090 complète à la place ?
Pas depuis cette page. Ce que nous installons, c’est la 4090D, et nous le disons d’emblée. Si votre travail exige vraiment les shaders supplémentaires, dites-nous sur le chat ce que vous allez exécuter et nous vous dirons si nous pouvons nous procurer une 4090 complète et combien de temps cela prendrait.
04La 4090D fonctionne-t-elle avec CUDA, PyTorch et les pilotes habituels ?
Oui. Elle est reconnue comme un GPU GeForce Ada Lovelace et accepte le pilote GeForce standard. Chaque version de CUDA, chaque build de framework et chaque moteur de rendu qui tourne sur une 4090 tourne dessus. La différence est un nombre de cœurs, pas une architecture.
05Le GPU est-il partagé avec quelqu’un d’autre ?
Non. Vous disposez du GPU complet sur une machine que personne d’autre n’utilise, transmis directement à votre propre système d’exploitation. Il n’y a ni hyperviseur, ni découpage vGPU, ni partage de temps. Vous installez et figez votre propre pilote et votre version de CUDA, et rien ne se met à jour dans votre dos.
06Dois-je louer une RTX 4090D ou une RTX 3090 pour 24 Go ?
Si la taille de la mémoire est tout ce dont vous avez besoin, la RTX 3090 est souvent le meilleur choix : mêmes 24 GB, plus ancienne et généralement moins chère par mois, comme le montre le tableau comparatif. La 4090D est nettement plus rapide et ajoute l’encodage AV1, qui manque à la 3090. Choisissez-la quand vos exécutions s’enchaînent ou que vous travaillez avec la vidéo.
07Puis-je mettre deux GPU RTX 4090D dans un seul serveur ?
Oui, sous forme de configuration sur devis plutôt que d’option au moment du paiement. Chacune consomme jusqu’à 425 W et il n’y a pas de NVLink, donc deux d’entre elles constituent deux pools distincts de 24 GB. Dites-nous ce que vous prévoyez d’exécuter et nous revenons vers vous avec la machine, ou consultez les serveurs multi-GPU.
08Dans combien de temps puis-je avoir un serveur dédié RTX 4090 ?
Environ 30 minutes après validation si une machine en rack possède déjà le GPU, 4 à 24 heures si nous en avons une en stock, et 5 à 10 jours ouvrés si nous devons l’acheter. Vous savez laquelle de ces situations s’applique avant de payer. Les machines en rack sont listées sur les serveurs instantanés.
Choisissez votre configuration RTX 4090D et voyez le prix complet
Chaque configuration est tarifée ci-dessus avec son serveur. Choisissez-en une, configurez-la, et la commande affiche votre total mensuel avant que vous ne payiez.