RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Série RTX 30 — cinq cartes, de 8 Go à 24 Go

Les puces grand public Ampere de 2020 sont toujours disponibles en rack et en location, car rien n'a remplacé leur véritable atout : le meilleur rapport puissance de calcul/prix du marché. La seule question qui mérite un article est de savoir laquelle choisir parmi les cinq, et la réponse honnête se résume généralement à un seul chiffre : la quantité de mémoire nécessaire.

8, 10, 12 et 24 Go Pas d'ECC Un seul encodeur, pas d'AV1

Lequel des cinq

Commencez par les moins chères. Parcourez la colonne de mémoire jusqu'à ce qu'elle contienne ce dont vous avez besoin, puis arrêtez-vous : les cartes situées au-dessus sont plus rapides pour la même tâche, mais pas pour une autre.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

Le piège au milieu de cette table

Notre RTX 3080 est la carte originale de 10 Go , celle qui possède 8 704 cœurs CUDA. NVIDIA a ensuite commercialisé une version 12 Go avec 8 960 cœurs, et de nombreuses annonces mentionnent cette dernière à côté de la carte moins chère. Dix gigaoctets ne sont pas douze : c’est la différence entre pouvoir stocker un modèle à treize milliards de paramètres avec une précision de huit bits et ne pas pouvoir le stocker. Si vous comparez les dimensions avec une autre valeur, utilisez la nôtre.

L'autre carte graphique à surveiller est celle qui passe de la 3080 Ti à la 3090. C'est le plus grand gain de capacité de la gamme (de douze à vingt-quatre gigaoctets), et c'est la seule des cinq à dépasser les 24 Go. Si vous avez besoin de cette capacité, aucune autre carte moins chère sur cette page ne conviendra, et les alternatives sont disponibles dans tout le catalogue, à des prix différents .

Les spécifications, telles que publiées par NVIDIA

Cœurs de ray tracing de deuxième génération, cœurs Tensor de troisième génération, PCIe Gen 4. Données issues des pages de comparaison GeForce de NVIDIA, citées dans le code source de cette page.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

Ce qu'ils savent faire, et ce qu'ils ne savent pas faire.

Ces cartes ont six ans et nous ne les avons pas retirées du marché, car pour une grande partie du travail réel, elles restent le choix judicieux plutôt qu'un compromis.

Points forts : capacité à bas coût

La RTX 3090 embarque les mêmes 24 Go de mémoire que la RTX 4090 D, deux générations plus récente, pour un prix mensuel inférieur. Si la capacité est votre principal critère et que la fréquence d'horloge maximale n'est pas essentielle, l'ancienne carte est tout simplement le meilleur choix.

Compétences : serveurs de jeux et traitement par lots

Les logiciels grand public sont conçus et testés sur des puces grand public. Serveurs de jeux, rendu par lots, réglages de précision pour amateurs, inférences réexécutables – tout ce qui nécessite une nouvelle tentative plutôt qu'une catastrophe – fonctionne sur ces puces pour un prix bien inférieur à celui des puces professionnelles.

Mauvais en matière de : pipelines vidéo modernes

Chaque carte graphique ne possède qu'un encodeur et un décodeur, et aucune des cinq ne prend en charge l'encodage AV1 ; cette fonctionnalité sera disponible avec la série RTX 40. Si votre flux de données est de type AV1, cette génération ne peut pas le gérer matériellement ; il vous faudra donc opter pour une RTX 4090 D ou une L40S.

Mauvais pour : les longues courses sans surveillance

Aucune de ces cartes ne dispose de mémoire de correction d'erreurs ni de pilote professionnel certifié. Pour une utilisation de plusieurs semaines sans sauvegarde, ou pour les logiciels réservés aux cartes professionnelles, privilégiez une carte standard.

Dans quelle machine entrent-ils et quel lien obtiennent-ils ?

Chaque carte RTX 30 est une carte PCIe Gen 4. Trois des quatre plateformes compatibles sont de génération 3, et une est de génération 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Pour cette génération de cartes, le slot a rarement une grande influence : une carte qui possède sa propre scène ou ses propres poids est à peine utilisée une fois chargée, et ce ne sont pas des cartes sur lesquelles on diffuse d'énormes lots d'entraînement. Nous le mentionnons ici parce que c'est un fait et que nous le publions pour chaque carte, et non pour vous faire changer d'avis.

Ce qui rentre réellement : la carte de 24 Go en haut de l’échelle

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — fits
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Consultez ce tableau en descendant d'un échelon pour chaque niveau inférieur. La 3080 Ti dispose de douze gigaoctets, la 3080 de dix, les 3070 Ti et 3070 de huit chacune ; ainsi, un modèle de sept à huit milliards de paramètres avec une précision de huit bits correspond approximativement au bas de cette page, et tout ce qui est plus important nécessite la 3090 ou un autre processeur graphique.

Ce qu'ils coûtent, avec les machines dans lesquelles ils sont installés

La fiche technique figure sur une ligne de la facture, la machine sur une autre. Ces deux parties proviennent d'une même lecture du catalogue de commandes ; le prix et les spécifications qui l'accompagnent sont donc toujours liés.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

La bande passante est illimitée dans les deux sens, sans frais de sortie. Une adresse IPv4 est incluse. Il n'y a pas d'engagement et la durée par défaut est d'un mois. Pour toute autre carte installée, le prix est le même ; consultez notre catalogue complet . Pour des machines prêtes à l'emploi dès aujourd'hui, optez pour la livraison instantanée . Découvrez pourquoi nous louons encore du matériel que tous les autres ont mis hors service : consultez notre offre avantageuse.

Questions que les gens se posent réellement à propos de cette génération

Votre RTX 3080 est-elle la carte de 10 Go ou celle de 12 Go ?

La carte de 10 Go, avec ses 8 704 cœurs CUDA, était la version de lancement. La version 12 Go, avec ses 8 960 cœurs, est trop petite pour notre configuration. Ce n'est pas si important, car un modèle de 13 milliards de paramètres avec une précision de 8 bits nécessite environ 14 gigaoctets, ce qui est insuffisant, tandis qu'un modèle plus petit remplit largement les deux dimensions.

Pourquoi louer une carte 2020 ?

La plupart des tâches nécessitant un GPU ne consistent pas à entraîner un modèle de pointe. Il s'agit plutôt de traiter des données déjà optimisées : encodage vidéo, rendu d'images ou exécution d'un serveur de jeu. Or, pour toutes ces applications, la carte graphique idéale est souvent une version deux générations plus ancienne, à un prix bien inférieur. La RTX 3090 offre les mêmes 24 gigaoctets de mémoire qu'une carte deux générations plus récente. C'est là tout l'argument, et /value en donne une version plus détaillée.

Puis-je en mettre deux dans une seule machine ?

Il s'agit d'un devis personnalisé et non d'une simple case à cocher, car le nombre de cartes dépend du boîtier, de la largeur physique de la carte et de son alimentation. Demandez un devis, et nous vous indiquerons le boîtier, le nombre de cartes et le délai de livraison. Veuillez noter que deux cartes correspondent à deux espaces mémoire distincts : un modèle qui ne rentre pas dans un boîtier 3090 ne rentrera pas dans deux sans être réparti intentionnellement entre eux.

Cette carte est-elle partagée avec quelqu'un d'autre ?

Non. Un seul locataire par machine physique, et la carte est directement gérée par votre système d'exploitation : pas d'hyperviseur, pas de partition, pas de partage de temps. Vous installez et fixez votre propre pilote et votre version CUDA, et aucune mise à jour n'est effectuée en arrière-plan.

Dans combien de temps puis-je en avoir un ?

Cela dépend si la carte est déjà installée, déjà en stock, ou si elle doit être commandée ; vous en serez informé avant de payer. /instant liste les machines disponibles immédiatement.