Serveurs GPU · NVIDIA Blackwell
Serveur dédié RTX PRO 6000 avec la totalité des 96 Go de GPU
Un serveur dédié RTX PRO 6000 chez nous, c’est une machine entière avec une NVIDIA RTX PRO 6000 Blackwell transmise directement à votre propre système d’exploitation : 96 GB de GDDR7 avec ECC, soit plus que les 80 GB d’une A100 ou d’une H100. Vous la louez au mois, personne d’autre ne l’utilise, et le port est sans limite de trafic, de sorte que les grands modèles et la vidéo entrent et sortent sans coût supplémentaire.
- Cœurs CUDA
- 24,064
- Vitesse mémoire
- 1,792 GB/s
- Encodeurs vidéo
- 4 × AV1
- Puissance de la carte
- 600 W
Cœurs Tensor de cinquième génération. Cœurs RT de quatrième génération.
Vous avez une RTX PRO 6000 qui n’est pas occupée ?
Mettez la machine sur la place de marché Primcast et percevez un loyer mensuel de la part de ceux qui ont besoin de cette puissance de calcul.
00Place de marché
Ou louez une RTX PRO 6000 auprès de son propriétaire
Les propriétaires mettent leurs machines en ligne sur notre place de marché et fixent eux-mêmes le prix mensuel. Une annonce détenue par notre société sœur, Server Room, se loue sur serverroom.net, pas ici.
01À quoi elle sert
Un serveur GPU de 96 Go pour les modèles, le rendu et la vidéo
Vous louez la RTX PRO 6000 quand la tâche exige beaucoup de mémoire sur un seul GPU et doit aussi dessiner ou encoder. Voici à quoi cela ressemble en pratique.
01Capacité
Un grand modèle sur un seul GPU
Un modèle de 70 milliards de paramètres tient en 4 bits avec de la place pour son contexte, et un modèle de 30 milliards tient en 8 bits. Tout se trouve dans un seul espace d’adressage, vous évitez donc le partitionnement et la seconde machine.
02Vidéo
Quatre encodeurs AV1 intégrés
Quatre moteurs NVENC et quatre moteurs NVDEC, tous avec AV1. Vous pouvez transcoder de nombreux canaux en direct par le matériel et garder le processeur libre. L’A100 et la H100 n’ont aucun encodeur vidéo.
03Rendu
Le lancer de rayons avec de la place pour les grandes scènes
Les cœurs RT de quatrième génération assurent le rendu, et 96 GB contiennent des scènes et des textures qui déborderaient d’un GPU de 48 GB. Vous pouvez rendre, encoder et exécuter un modèle sur la même carte.
04Un seul locataire
Le GPU complet, sur votre propre système
Pas de profil vGPU, pas de temps partagé, pas d’autre client sur la machine. Certaines offres cloud pour ce GPU sont une machine virtuelle sur un hôte partagé, alors comparez ce qui est comparable avant de comparer les prix.
02Avant de commander
Plus de mémoire qu’une H100. Voici ce à quoi vous renoncez
La RTX PRO 6000 contient plus de mémoire que les accélérateurs de centre de données que nous installons. Deux choses la séparent d’eux, et l’une d’elles peut trancher pour vous.
Pas de NVLink
Ce GPU n’a pas de pont NVLink. Deux d’entre eux dans une même machine forment deux réserves distinctes de 96 GB qui communiquent par le slot PCIe, et non une réserve unique de 192 GB. Si votre modèle a besoin de plus de 96 GB dans un seul espace d’adressage, regardez l’A100 et la H100, qui mutualisent leur mémoire via NVLink.
GDDR7, pas de HBM empilée
La GDDR7 est rapide, 1,792 GB/s, soit plus que l’A100 40 GB et le double de la L40S. L’A100 80 GB lit encore un peu plus vite à 1,935 GB/s. Pour servir de nombreux utilisateurs avec une grande taille de lot, c’est la vitesse de lecture qui donne le rythme, alors vérifiez cette colonne si le débit est votre objectif.
Si votre question est “le modèle tiendra-t-il sur un seul GPU”, la RTX PRO 6000 y répond avec le plus d’espace. Si c’est “combien de jetons par seconde pour des centaines d’utilisateurs”, un accélérateur mérite peut-être un coup d’œil. Le tableau comparatif met la mémoire et le coût mensuel côte à côte.
03Caractéristiques
Caractéristiques de la RTX PRO 6000 Blackwell : GDDR7, cœurs Tensor et RT
Chiffres tirés de la page produit NVIDIA’ pour l’édition Workstation. L’édition Max-Q est la même puce avec les mêmes 96 GB à 300 W.
RTX PRO 6000 Blackwell 96GB
Blackwell
96 GB GDDR7 ECC
24,064
1,792 GB/s
600 W
PCIe Gen 5 x16
4 NVENC, 4 NVDEC, AV1
Yes
- 125 TFLOPS FP32
- 380 TFLOPS RT
- Cœurs Tensor avec FP4
- MIG, jusqu’à 4 instances
04Choisir
RTX PRO 6000 contre H100, A100 et RTX 6000 Ada
Les GPU à grande mémoire que nous installons, avec la mémoire et le coût mensuel côte à côte. Sur cette étagère, mémoire et prix n’augmentent pas ensemble, et c’est la raison de la lire.
57 GPU models in the catalogue today · none holds more than 96 GB
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| A40 | 48 GB GDDR6 | $499 | $572.47 |
| RTX 6000 ADA | 48 GB GDDR6 ECC | $625 | $698.47 |
| A100 80GB | 80 GB HBM2e | $899 | $972.47 |
| RTX PRO 6000 Blackwell 96GB | 96 GB GDDR7 ECC | $1,299 | $1,382.67 |
| H100 80GB | 80 GB HBM2e | $1,599 | $1,682.67 |
La RTX 6000 Ada est le précédent GPU professionnel, avec 48 GB de GDDR6. La RTX PRO 6000 double cela sur du silicium plus récent. Si 48 GB suffisent à votre travail, l’Ada est le moyen le moins cher d’entrer. Pour chaque GPU que nous installons, au même tarif, voir tous les serveurs GPU avec prix.
05La machine
Dans quel serveur elle entre, et la liaison PCIe qu’elle reçoit
La RTX PRO 6000 est un GPU PCIe Gen 5. Chaque machine ci-dessous montre la liaison que son slot lui donne, afin que vous voyiez ce que vous obtenez avant de choisir.
Intel Xeon Silver / Gold
AMD EPYC
Une fois les poids chargés sur le GPU, le slot reste la plupart du temps inactif, ce qui couvre la plupart de l’inférence, la plupart du rendu et tout le transcodage. Une boucle d’entraînement qui envoie un nouveau lot à travers le slot à chaque étape est le travail qui s’en aperçoit. Dites-nous ce que vous allez exécuter et nous vous orienterons vers la bonne machine.
06Dimensionnement
Ce qui tient dans 96 Go de mémoire GPU
Poids uniquement. Laissez de la place pour la fenêtre de contexte et l’environnement d’exécution par-dessus.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — fits | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — tight | 34 GB — fits | 19 GB — fits |
| 70 billion parameters | 140 GB — does not fit | 70 GB — tight | 38 GB — fits |
Un modèle de 70 milliards en 8 bits se charge mais laisse peu de place pour un long contexte ou un second utilisateur. En 4 bits, il tient confortablement. Pour le calculer depuis votre modèle jusqu’au GPU, utilisez la page de dimensionnement mémoire LLM.
07Prix
Louer une RTX PRO 6000 : prix avec la machine
Le GPU est une ligne sur votre facture et le serveur en est une autre. Les deux proviennent du catalogue de commande utilisé par le paiement, donc chaque prix ci-dessous appartient à la machine qui se trouve à côté.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX PRO 6000 Blackwell 96GB | Intel Xeon Silver / Gold | $1,299 | $1,382.67 Configure this build → |
| RTX PRO 6000 Blackwell 96GB | AMD EPYC | $1,299 | $1,516.59 Configure this build → |
Le port est sans limite de trafic dans les deux sens et sans frais de sortie. Une adresse IPv4 et une adresse IPv6 sont fournies avec le serveur, vous payez un mois à la fois et il n’y a pas de contrat. Une configuration comporte des frais d’installation uniques, indiqués sur la commande avant que vous payiez.
08Livraison et aide
Dans combien de temps vous l’obtenez, et qui répond
Cela dépend de l’endroit où se trouve le GPU en ce moment. On vous indique lequel de ces cas s’applique avant que vous payiez.
- Environ 30 minutes
Déjà en baie
Une machine avec le GPU installé est en baie, et elle est à vous environ 30 minutes après l’approbation de la commande.
- 4 à 24 heures
Sur notre étagère
Nous installons un GPU que nous détenons déjà dans le serveur que vous avez choisi.
- 5 à 10 jours ouvrés
Acheté sur commande
Nous commandons le GPU auprès d’un distributeur, puis nous l’installons dans votre serveur.
- 10 à 15 jours ouvrés
Sur allocation
Quand les distributeurs rationnent un GPU, nous indiquons la date avant que vous vous engagiez.
Les questions vont à notre chat. Un assistant IA répond en quelques secondes et peut vérifier votre compte et votre serveur, et une personne de notre équipe intervient dès que vous le demandez. Les machines en baie et prêtes immédiatement sont sur les serveurs instantanés.
09Questions
Questions sur la location d’une RTX PRO 6000
01La RTX PRO 6000 Blackwell est-elle identique à la RTX 6000 Ada ?
Non, même si les noms sont proches. La RTX 6000 Ada Generation est le GPU professionnel précédent, avec 48 GB de GDDR6 et ECC. La RTX PRO 6000 Blackwell, parfois recherchée sous le nom de RTX 6000 Pro, dispose de 96 GB de GDDR7 avec ECC sur la puce Blackwell plus récente. Nous installons les deux, et le tableau comparatif indique le prix de chacune avec sa machine.
02La RTX PRO 6000 prend-elle en charge NVLink ?
Non. Ce GPU ne possède pas de connecteur NVLink, donc deux exemplaires dans un même serveur fonctionnent comme deux pools distincts de 96 GB reliés par PCIe. Si vous avez besoin de plus de 96 GB regroupés, les A100 et H100 prennent en charge NVLink.
03Combien coûte la location d’une RTX PRO 6000 ?
La configuration complète la moins chère, GPU et serveur réunis, est à $1,382.67 par mois aujourd’hui. Le tableau des prix sur cette page répertorie chaque machine pouvant accueillir ce GPU, lu en direct depuis le catalogue de commandes, avec un lien pour configurer chacune. Il n’y a pas de contrat et le port est sans limite de trafic.
04Dois-je louer une RTX PRO 6000 ou une H100 ?
Louez la RTX PRO 6000 lorsque le modèle doit tenir sur un seul GPU, ou lorsque le travail implique aussi du rendu ou de l’encodage vidéo. Louez une H100 lorsque vous avez besoin de NVLink pour regrouper plusieurs GPU, ou de mémoire HBM pour servir avec de grandes tailles de lots. Le tableau comparatif indique la mémoire et le coût mensuel des deux.
05Le GPU est-il partagé ou divisé en GPU virtuels ?
Non. Vous recevez le GPU complet transmis à votre propre système d’exploitation, sur une machine que personne d’autre n’utilise : pas d’hyperviseur, pas de profil vGPU, pas de temps partagé. Le GPU prend en charge MIG avec jusqu’à quatre instances, vous pouvez donc le diviser vous-même si votre travail s’y prête.
06Quels pilote NVIDIA et version CUDA vais-je recevoir ?
Ceux que vous choisissez. Le serveur est livré avec un système d’exploitation propre et un accès root, et vous installez et figez les versions du pilote, de CUDA et des frameworks dont votre code a besoin. Rien ne se met à jour dans votre dos.
07Puis-je avoir deux GPU RTX PRO 6000 dans un même serveur ?
Oui, sous forme de configuration sur devis plutôt que d’option au moment du paiement. À raison de 600 W chacun, le châssis et son budget d’alimentation déterminent combien peuvent être installés, ainsi que l’édition retenue. Dites-nous ce que vous prévoyez d’exécuter et nous vous répondrons avec le châssis, le nombre de GPU et le délai. Pour des configurations plus importantes, consultez les serveurs multi-GPU et multi-nœuds.
08Dans combien de temps puis-je disposer d’un serveur RTX PRO 6000 ?
Environ 30 minutes après validation si une machine en rack est déjà équipée du GPU, 4 à 24 heures si nous en avons un en stock, 5 à 10 jours ouvrés si nous devons l’acheter, et 10 à 15 jours ouvrés lorsqu’il est sur allocation. Vous êtes informé du cas applicable avant de payer. Les machines en rack sont répertoriées sur les serveurs instantanés.
Choisissez votre machine, puis ajoutez le GPU
Chaque configuration RTX PRO 6000 est tarifée ci-dessus avec son serveur. Choisissez-en une, configurez-la, et la commande affiche le total mensuel complet avant que vous ne payiez.