Serveur GPU · série RTX 30
Serveur dédié RTX 3080 plus quatre autres GPU RTX 30, de 8 Go à 24 Go
Un serveur dédié RTX 3080 de Primcast est une machine physique complète avec une NVIDIA GeForce RTX 3080 confiée à votre propre système d’exploitation : 10 GB GDDR6X et 8,704 cœurs CUDA, sans machine virtuelle et sans voisins. Si votre travail demande plus de mémoire, nos serveurs acceptent aussi une RTX 3080 Ti ou une 24 GB RTX 3090. Vous payez au mois, sans engagement.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Les cinq : PCIe Gen 4, un encodeur vidéo, pas de mémoire ECC.
01Choisissez-en un
Quel serveur RTX 30 correspond à votre travail
Commencez en haut de ce tableau et arrêtez-vous au premier GPU avec assez de mémoire pour ce que vous chargez. Les GPU plus bas font le même travail plus vite. La seule chose qu’ils ajoutent, c’est de la place pour un modèle ou une scène plus grand.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
Notre RTX 3080 est le modèle 10 Go
NVIDIA a fabriqué deux RTX 3080. La nôtre est l’originale, avec 10 GB GDDR6X et 8,704 cœurs CUDA. La version plus récente a 12 Go et 8 960 cœurs, et beaucoup d’annonces citent 12 Go pour le GPU moins cher. Dimensionnez votre travail par rapport à 10 Go. Un modèle de 13 milliards de paramètres en 8 bits demande environ 14 Go, donc il ne tient dans aucune des deux versions.
La RTX 3090 est le grand saut
Passer de la RTX 3080 Ti à la RTX 3090 double la mémoire, de 12 Go à 24 GB GDDR6X. C’est le seul GPU RTX 30 avec 24 Go. Si votre modèle ou votre scène en a besoin d’autant, rien de moins cher ici ne le fera tourner. Pour plus de 24 Go, voyez tous les GPU que nous installons, avec les prix.
02À quoi il sert
Ce que les gens font tourner sur un serveur GPU RTX 3080
Ces GPU sont sortis en 2020 et nous les louons toujours, parce que beaucoup de vrai travail n’a pas besoin de plus récent. Pour ces quatre usages, un GPU plus ancien fait l’affaire pour moins cher chaque mois.
01IA
Faire tourner un modèle qui tient déjà
Servir un modèle 7B, tester des invites ou affiner quelque chose de petit. Un modèle 7-8B se charge en 4 bits sur n’importe lequel des cinq, et en 8 bits sur la RTX 3080 avec peu de marge. La RTX 3090 tient un modèle 13B en 8 bits avec de la place restante pour le contexte.
02Jeux
Serveurs de jeu qui ont besoin d’un vrai GPU
Les jeux sont écrits et testés sur des GPU GeForce comme ceux-ci. Si votre serveur de jeu fait du rendu ou du streaming, la série RTX 30 utilise les mêmes pilotes GeForce que vos joueurs ont chez eux.
03Rendu
Rendus par lots que vous pouvez relancer
Blender, Unreal ou votre propre pipeline, image après image. Si un travail échoue, vous le relancez, donc pas besoin de payer pour de la mémoire à correction d’erreurs. Dépensez plutôt l’argent en cœurs CUDA.
04Vidéo
Encodage H.264 et HEVC
Chaque GPU a un encodeur matériel et un décodeur pour H.264 et HEVC. Cela couvre des chaînes en direct ou une file d’envois sans charger le processeur. Pour l’AV1, ou beaucoup de chaînes sur une seule machine, voyez les serveurs de transcodage vidéo en direct.
03Avant de commander
Deux choses que la série RTX 30 ne peut pas faire
Les deux figurent dans la spécification NVIDIA de ces GPU. Vérifiez-les par rapport à votre travail avant de commander.
Pas d’encodage AV1
Aucun des cinq ne peut encoder l’AV1 en matériel. NVIDIA a ajouté cela avec la série RTX 40. Si votre pipeline envoie de l’AV1, choisissez un serveur RTX 4090 D ou un serveur L40S, qui a trois encodeurs AV1.
Pas de mémoire ECC, pas de pilote professionnel
Un bit inversé passe inaperçu. C’est acceptable pour un travail que vous pouvez vérifier ou répéter. Pour un entraînement qui dure des semaines sans points de contrôle, ou pour un logiciel sous licence uniquement sur GPU professionnels, choisissez-en un dans la gamme station de travail sur la liste complète des GPU.
04Spécifications
Spécifications des RTX 3090, 3080 et 3070
Architecture Ampere, cœurs RT de deuxième génération, cœurs Tensor de troisième génération et PCIe Gen 4 sur les cinq. Les chiffres sont ceux de NVIDIA, tirés de ses pages de comparaison GeForce.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Dimensionnement du modèle
Votre modèle tiendra-t-il sur une RTX 3080 ou une RTX 3090 ?
Sur les 10 Go de la RTX 3080, un modèle 7-8B tient en 4 bits et passe juste en 8 bits. Sur les 24 Go de la RTX 3090, un modèle 13B tient en 8 bits et un modèle 30B se charge en 4 bits, avec peu de place restante pour le contexte.
RTX 3080, 10 Go
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 Go
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
La RTX 3080 Ti se situe entre les deux avec 12 Go. Les RTX 3070 et 3070 Ti ont 8 Go, ce qui tient un modèle 7-8B en 4 bits mais pas en 8 bits. Vous partez plutôt du modèle ? Le dimensionnement de serveur LLM calcule la mémoire GPU dont un modèle a besoin et quel GPU la dégage.
06Le serveur autour
Dans quel serveur chaque GPU RTX 30 est installé
Chaque GPU RTX 30 est une pièce PCIe Gen 4. Un slot Gen 4 lui donne la liaison complète. Un slot Gen 3 lui en donne la moitié, et la liste ci-dessous montre quel serveur a quoi.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Pour la plupart des travaux RTX 30, le slot importe peu. Une fois qu’un modèle ou une scène est chargé sur le GPU, très peu de choses traversent le slot. Cela compte pour l’entraînement qui envoie de nouveaux lots depuis le serveur à chaque étape.
07Comparer
RTX 3090 contre RTX 4090 D et RTX 5090
La RTX 3090 a les mêmes 24 Go que la RTX 4090 D, une génération plus tard, et la RTX 5090, deux générations après, a 32 Go. Ce tableau montre ce que coûtent les GPU plus récents, chacun avec la machine complète la moins chère dans laquelle il est installé.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Choisissez le GPU plus récent quand la vitesse par travail ou l’encodage AV1 est ce qu’il vous faut. Quand c’est la mémoire que vous payez, la RTX 3090 fait généralement l’affaire. Pourquoi nous louons encore du matériel plus ancien explique le raisonnement.
08Prix
Prix du serveur dédié RTX 3080, et des quatre autres
Le GPU est une ligne sur votre facture et le serveur en est une autre. Chaque rangée montre la machine complète, ce que le GPU ajoute et le total mensuel, lu dans le même catalogue que celui utilisé par la caisse.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- PortTrafic non mesuré dans les deux sens, sur un port qui dessert votre machine seule.
- AdresseUne adresse IPv4 incluse.
- DuréeMensuelle par défaut, sans engagement.
- AideNotre assistant de chat répond en quelques secondes et peut vérifier votre compte et votre serveur. Demandez une personne à tout moment.
Besoin d’une machine aujourd’hui ? Les serveurs instantanés listent ce qui est déjà en baie. Pour comparer tous les GPU que nous installons, voyez les serveurs GPU, tous tarifés.
Marketplace
Louez un GPU RTX 30 à son propriétaire
Les propriétaires listent leurs machines RTX 30 sur notre marketplace et fixent leur propre prix mensuel. Si une annonce indique qu’elle passe par notre société sœur, Server Room, vous la louez sur serverroom.net.
09Questions
Questions sur les serveurs RTX 3080 que les gens posent avant de commander
01Votre RTX 3080 est-elle la version 10 Go ou 12 Go ?
Il s’agit de la version 10 Go, la RTX 3080 d’origine avec 8,704 cœurs CUDA. La version 12 Go possède 8 960 cœurs, et nous ne l’installons pas. Si vous avez besoin de 12 Go, la RTX 3080 Ti les offre.
02Serveur RTX 3080 ou RTX 3090 ?
Choisissez la RTX 3080 si votre modèle ou votre scène tient dans 10 Go. Entre 10 et 12 Go, prenez la RTX 3080 Ti. Choisissez la RTX 3090 s’il faut plus de 12 Go : elle possède 24 GB GDDR6X, le maximum de tous les GPU RTX 30, et davantage de cœurs CUDA. Les deux figurent dans le tableau des prix ci-dessus, chacun avec la machine complète.
04Puis-je mettre deux GPU RTX 30 dans un seul serveur ?
Oui, sous forme de configuration que nous chiffrons plutôt que d’option au moment du paiement, car cela dépend du châssis, de la largeur du GPU et du budget d’alimentation. Demandez dans le chat et nous vous indiquons le châssis et le délai. Deux GPU constituent deux pools de mémoire distincts : un modèle qui ne tient pas sur une seule RTX 3090 doit être réparti entre les deux par votre logiciel.
05Dans combien de temps puis-je avoir un serveur RTX 3080 ?
Cela dépend de l’endroit où se trouve le GPU, et vous êtes informé avant de payer. Un GPU que nous détenons déjà est installé en quatre à vingt-quatre heures. Un GPU que nous devons acheter prend cinq à dix jours ouvrés. Pour commencer aujourd’hui, les serveurs instantanés listent les machines déjà en baie.
06Que se passe-t-il si le GPU tombe en panne ?
Nous le remplaçons. Le contrat nous donne quatre heures à partir du moment où vous le signalez par téléphone ou par chat en direct, et au-delà, vous avez droit à un avoir de service selon un barème publié.
07Qui m’aide si quelque chose ne va pas ?
Ouvrez le chat sur n’importe quelle page. Notre assistant répond en quelques secondes, peut consulter votre compte et votre serveur, et vous met en relation avec un membre de notre équipe dès que vous le demandez. Vous conservez un accès root complet à la machine en permanence.
Obtenez un serveur RTX 3080 pour votre projet
Choisissez le serveur, ajoutez la RTX 3080 ou l’une des quatre autres, et voyez le total mensuel avant de payer. Sans engagement, et le port est illimité.