Serveurs GPU · Série RTX 50
Serveur dédié RTX 5090 avec 32 Go pour vos modèles et vos rendus
Un serveur dédié RTX 5090 est une machine entière que vous louez au mois avec la RTX 5090 de NVIDIA à l’intérieur : 32 GB de GDDR7, transmis directement à votre propre système d’exploitation. Personne d’autre n’utilise le GPU ni le serveur, le port n’est pas mesuré et il n’y a aucun engagement. Si 16 GB suffisent pour votre travail, la RTX 5080 est installée dans les mêmes baies pour moins cher.
| Caractéristique | RTX 5090 | RTX 5080 |
|---|---|---|
| Mémoire GPU | 32 GB GDDR7 | 16 GB GDDR7 |
| Bus mémoire | 512-bit | 256-bit |
| Cœurs CUDA | 21,760 | 10,752 |
| Fréquence boost | 2.41 GHz | 2.62 GHz |
| Encodeurs AV1 | 3 | 2 |
| Consommation | 575 W | 360 W |
| Interface GPU | PCIe Gen 5 | PCIe Gen 5 |
Vous possédez une machine RTX série 50 que vous n’utilisez pas ?
Mettez-la en ligne sur la place de marché Primcast, fixez vous-même votre prix mensuel et laissez les personnes qui ont besoin de puissance de calcul vous la louer.
00Place de marché
Ou louez un GPU RTX série 50 auprès de la personne qui le possède
Les propriétaires mettent leurs machines RTX série 50 sur notre place de marché et fixent eux-mêmes le prix mensuel. Une annonce indiquée comme détenue par notre société sœur, Server Room, est louée sur serverroom.net au lieu d’ici.
01À quoi il sert
Ce que vous pouvez exécuter sur un serveur IA RTX 5090
C’est le plus grand GPU grand public de NVIDIA, en baie. Vous obtenez beaucoup de calcul et de mémoire pour votre argent, ainsi que les limites liées au matériel grand public.
01Modèles d’IA
Inférence et ajustement fin dans 32 GB
Un modèle de 30 milliards de paramètres en 4 bits tient avec de la marge, tout comme un modèle de 13 milliards en 8 bits. Le même modèle de 13 milliards en 16 bits pleine précision ne laisse pas assez de place pour le servir. Les tableaux de dimensionnement ci-dessous montrent chaque cas.
02Rendu
De grandes scènes qui restent en mémoire GPU
Les moteurs de rendu GPU sont rapides tant que la scène tient sur le GPU. 32 GB contiennent bien plus de géométrie et de textures que les GPU de 24 GB un cran en dessous, et un lot d’images peut tourner pendant la nuit pendant que votre propre station de travail reste libre.
03Vidéo
Trois encodeurs AV1 sur un seul GPU
La RTX 5090 possède trois encodeurs vidéo matériels et deux décodeurs, ce qui lui permet de transcoder plusieurs flux à la fois. Les accélérateurs A100 et H100 n’ont aucun encodeur. Pour les chaînes en direct, consultez nos serveurs de transcodage.
04Limites
Pas de mémoire à correction d’erreurs
Les GPU GeForce n’ont ni ECC ni pilote professionnel certifié. Ce n’est pas un problème quand un mauvais résultat signifie simplement relancer. Pour les calculs qui durent des semaines sans points de contrôle, ou les logiciels sous licence uniquement sur GPU professionnels, regardez la RTX PRO 6000 avec 96 Go et ECC.
02Spécifications
Spécifications des NVIDIA RTX 5090 et RTX 5080
Les chiffres que NVIDIA publie pour les deux GPU RTX série 50 que nous installons. Tous deux utilisent l’architecture Blackwell, avec des cœurs Tensor de cinquième génération et des cœurs RT de quatrième génération.
RTX 5090
Blackwell
32 GB GDDR7
21,760
512-bit
2.41 GHz
575 W
PCIe Gen 5 x16
3 NVENC (9th generation), 2 NVDEC, AV1
No
RTX 5080
Blackwell
16 GB GDDR7
10,752
256-bit
2.62 GHz
360 W
PCIe Gen 5 x16
2 NVENC (9th generation), 2 NVDEC, AV1
No
03Avant de commander
Le slot PCIe que votre RTX 5090 reçoit dans chaque machine
Les deux GPU sont conçus pour le PCIe Gen 5. Chaque plateforme sur laquelle nous les installons est en Gen 3 ou Gen 4, donc la liaison entre le GPU et le serveur fonctionne en dessous de ce pour quoi le GPU a été conçu. Voici ce que chaque machine lui offre.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Nous le disons d’emblée parce que cela a déjà surpris un client : une RTX 5090 sur une plateforme Gen 3 rendait plus lentement que la RTX 4090 qu’elle remplaçait. Un slot plus lent ne nuit que lorsque votre travail déplace des données en permanence, comme une boucle d’entraînement qui charge un nouveau lot depuis l’hôte à chaque étape. L’inférence, le transcodage et les serveurs de jeux n’y touchent presque pas une fois que tout est chargé. Vous ne savez pas dans quel cas vous êtes ? Dites-nous sur le chat ce que vous allez exécuter et nous vous orienterons vers la bonne machine.
04Le plus petit
Serveur RTX 5080 : la même génération avec 16 Go
La RTX 5080 a le même design Blackwell, la même génération d’encodeurs AV1 et la même interface PCIe Gen 5, avec environ la moitié des cœurs CUDA et la moitié de la mémoire de la RTX 5090.
Quand la RTX 5080 suffit
Votre modèle tient dans 16 GB avec de la marge : un modèle de 7 milliards en 8 bits, ou un modèle de 13 milliards en 4 bits. Ou bien le travail est de la vidéo, où ses deux encodeurs AV1 font le travail, ou un serveur de jeu qui ne remplit jamais la mémoire du GPU.
Quand payer pour la RTX 5090
Votre modèle ou votre scène dépasse 16 GB, ou vous voulez la mémoire supplémentaire pour des contextes plus longs et plus d’utilisateurs à la fois. Deux fois plus de mémoire sur un bus deux fois plus large, c’est la vraie différence ; les fréquences d’horloge sont proches.
05Dimensionnement
Ce qui tient dans 32 Go et dans 16 Go de mémoire GPU
Poids uniquement. Laissez de la marge en plus pour le contexte et l’exécution.
RTX 5090, 32 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: fits | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: fits | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: fits |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
RTX 5080, 16 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: does not fit | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: does not fit | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: does not fit |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
La consommation est l’autre limite. Une RTX 5090 peut tirer jusqu’à 575 W, c’est pourquoi une deuxième dans la même machine est une configuration que nous chiffrons, pas une option au moment du paiement. Pour partir de votre modèle et trouver le GPU dont il a besoin, utilisez la page de dimensionnement mémoire LLM.
06Choisir
Serveur RTX 5090, RTX 4090D ou RTX 3090 ?
Ces GPU vont dans les mêmes machines, donc plus récent n’est pas automatiquement meilleur pour vous. Comparez la mémoire et le prix mensuel pour votre travail.
| GPU | GPU memory | GPU alone | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 5080 | 16 GB GDDR7 | $229 | $312.67 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
La RTX 4090D et la RTX 3090 ont toutes deux 24 GB. Ce sont des GPU PCIe Gen 4, donc le slot leur coûte moins qu’à la série RTX 50. Si votre travail tient dans 24 GB, lisez la page du serveur dédié RTX 4090 et la page des serveurs RTX série 30 avant de décider.
07Prix
Prix des serveurs RTX 5090 et RTX 5080, avec la machine
Votre facture montre le GPU sur une ligne et le serveur sur une autre. Les deux proviennent du même catalogue de commandes que celui utilisé au moment du paiement, et chaque prix ci-dessous correspond à la machine qui se trouve à côté.
| GPU | The machine it goes in | GPU alone | Complete, per month |
|---|---|---|---|
| RTX 5080 | Intel Xeon Silver / Gold | $229 | $312.67 Configure this build → |
| RTX 5090 | Intel Xeon E5-2600 v3/v4 | $399 | $472.47 Configure this build → |
| RTX 5090 | Intel Xeon Silver / Gold | $399 | $482.67 Configure this build → |
| RTX 5090 | AMD EPYC | $399 | $616.59 Configure this build → |
Le trafic n’est pas mesuré dans un sens ni dans l’autre et il n’y a pas de frais de sortie. Chaque serveur est livré avec une adresse IPv4, vous payez mois par mois et vous pouvez partir à la fin de n’importe quel mois. Pour voir tous les GPU que nous installons, au même tarif, allez sur tous les serveurs GPU avec prix.
08Livraison et aide
Quand votre serveur RTX 5090 est prêt, et qui vous aide
La livraison dépend de l’endroit où se trouve le GPU au moment de votre commande. Demandez sur le chat avant de payer et nous vous dirons lequel de ces cas s’applique à votre configuration.
- Environ 30 minutes
Déjà en baie
Si une machine en baie a déjà le GPU installé, vous la recevez environ 30 minutes après l’approbation de votre commande.
- 4 à 24 heures
Sur notre étagère
Nous avons le GPU en main et nous l’installons dans le serveur que vous avez choisi.
- 5 à 10 jours ouvrés
Commandé pour vous
Nous achetons le GPU auprès d’un distributeur et nous l’installons dès son arrivée.
Posez toutes vos questions sur notre chat, avant ou après votre commande. Un assistant IA répond en quelques secondes et peut vérifier votre compte et votre serveur, et une personne de notre équipe intervient dès que vous le demandez. Les machines en baie et prêtes maintenant sont sur les serveurs instantanés.
09Questions
Questions sur la location d’un serveur RTX 5090
01Qu’est-ce que j’obtiens avec un serveur dédié RTX 5090 ?
Un serveur physique complet avec une RTX 5090 à l’intérieur, loué au mois. Le GPU entier est transmis directement à votre propre système d’exploitation, sans hyperviseur, sans découpage vGPU et sans partage de temps. Vous installez le pilote et la version CUDA de votre choix, et rien ne les modifie dans votre dos.
02Existe-t-il une édition serveur de la RTX 5090 ?
Non. NVIDIA ne fabrique pas d’édition serveur de la RTX 5090. Son GPU Blackwell à refroidissement passif pour serveurs est la RTX PRO 6000 Blackwell Server Edition, avec 96 GB de mémoire et ECC. Nous installons aussi la RTX PRO 6000 : voir la page du serveur dédié RTX PRO 6000. La RTX 5090 que nous louons est la version GeForce de NVIDIA, fonctionnant dans un serveur rack.
03Une RTX 5090 fonctionnera-t-elle à pleine vitesse dans vos serveurs ?
Sa liaison PCIe, non. La RTX 5090 est un GPU PCIe Gen 5 et nos plateformes sont en Gen 3 et Gen 4, donc le bus fonctionne à la moitié ou au quart de sa vitesse nominale, selon la machine. Cela ralentit l’entraînement qui transfère des données depuis l’hôte à chaque étape. Cela change peu de chose pour l’inférence, le transcodage ou le rendu une fois le travail chargé dans la mémoire du GPU. Le slot offert par chaque machine est indiqué sur cette page.
04Quelle taille de modèle d’IA un serveur RTX 5090 peut-il exécuter ?
Avec 32 GB, un modèle de 30 milliards de paramètres tient en 4 bits et un modèle de 13 milliards tient en 8 bits, tous deux avec de la place pour le contexte. Un modèle de 70 milliards ne tient pas sur une seule RTX 5090, même en 4 bits. Pour les modèles plus grands, voir la page de dimensionnement mémoire LLM.
05RTX 5090 ou RTX 5080 : laquelle louer ?
Louez la RTX 5080 si votre modèle ou votre scène tient dans 16 GB avec de la marge, ou si le travail est surtout de la vidéo. Louez la RTX 5090 quand vous avez besoin de plus de 16 GB, ou que vous voulez de la réserve pour des contextes plus longs et plus d’utilisateurs. Le tableau des prix ci-dessus montre ce que chacune coûte avec sa machine.
06Puis-je obtenir une RTX 5070 ou une RTX 5060 ?
Non. La RTX 5090 et la RTX 5080 sont les seuls GPU de la série RTX 50 dans notre catalogue de commandes, et le configurateur n’en propose aucun autre. Pour un GPU plus petit et moins cher, comparez le reste sur tous les serveurs GPU avec prix.
07Puis-je mettre deux GPU RTX 5090 dans un seul serveur ?
Oui, en tant que configuration que nous chiffrons plutôt qu’une option de commande en ligne. Chacune consomme jusqu’à 575 W, et les GPU GeForce RTX 50 n’ont pas de NVLink, donc deux d’entre elles forment deux pools séparés de 32 GB. Dites-nous ce que vous prévoyez d’exécuter, ou voir les serveurs multi-GPU.
08Dans combien de temps puis-je avoir un serveur RTX 5090 ?
Environ 30 minutes après approbation si une machine en rack possède déjà le GPU, 4 à 24 heures si nous avons le GPU en stock, et 5 à 10 jours ouvrés si nous devons l’acheter. Demandez sur le chat avant de payer et nous vous dirons lequel s’applique.
Choisissez votre configuration RTX 5090 et voyez le total mensuel
Chaque configuration ci-dessus est tarifée avec son serveur. Choisissez-en une, configurez-la comme vous le souhaitez, et la commande affiche votre prix mensuel complet avant que vous ne payiez.