RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

RTX 30 Series — cinq cartes, de 8 Go à 24 Go

Le silicium grand public Ampere de 2020, toujours en rack et toujours loué, parce que rien n'a remplacé ce pour quoi il excelle vraiment : le plus de calcul par livre du catalogue. La seule question qui mérite une page est laquelle des cinq, et la réponse honnête tient généralement à un seul chiffre — la quantité de mémoire dont vous avez besoin.

8, 10, 12 et 24 Go Pas d'ECC Un encodeur, pas d'AV1

Transformez vos GPU en revenus mensuels passifs

Vous avez des configurations GPU serveur ou de bureau inutilisées ? Mettez-les en ligne sur la place de marché Primcast dès aujourd'hui et gagnez des loyers mensuels réguliers auprès d'équipes d'IA, de développeurs et d'entreprises ayant besoin de calcul de qualité production.

Aller à la place de marché

Laquelle des cinq

La moins chère d'abord. Lisez vers le bas jusqu'à ce que la colonne mémoire contienne ce dont vous avez besoin, puis arrêtez-vous — les cartes au-dessus sont plus rapides pour le même travail, pas capables d'en faire un autre.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

Le piège au milieu de ce tableau

Notre RTX 3080 est la carte d'origine à 10 Go, celle avec 8 704 cœurs CUDA. NVIDIA a ensuite commercialisé une révision à 12 Go avec 8 960 cœurs, et de nombreuses annonces ailleurs citent le chiffre de 12 Go à côté de la carte moins chère. Dix gigaoctets ne font pas douze : c'est la différence entre contenir un modèle de treize milliards de paramètres en précision huit bits et ne pas le contenir. Si vous dimensionnez par rapport à un chiffre lu ailleurs, dimensionnez par rapport au nôtre.

L'autre point à surveiller est le passage de la 3080 Ti à la 3090. C'est le plus grand saut de capacité de l'échelle — de douze gigaoctets à vingt-quatre — et c'est la seule des cinq à dépasser 24 Go. Si vous en avez besoin, rien de moins cher sur cette page ne fera l'affaire, et les alternatives se trouvent dans tout le catalogue, avec les prix.

Les spécifications, telles que NVIDIA les publie

Cœurs de ray tracing de deuxième génération, cœurs tensoriels de troisième génération, PCIe Gen 4 partout. Chiffres issus des pages de comparaison GeForce de NVIDIA, cités dans la source de cette page.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

Ce pour quoi elles sont bonnes, et ce pour quoi elles ne le sont pas

Ces cartes ont six ans et nous ne les avons pas retirées, car pour une grande part du travail réel, elles restent le bon achat plutôt que le compromis.

Bonnes pour : la capacité bon marché

La RTX 3090 embarque les mêmes 24 Go que la RTX 4090 D deux générations plus tard, pour moins d'argent chaque mois. Quand c'est la capacité que vous achetez et que la vitesse d'horloge n'est pas la contrainte déterminante, la carte plus ancienne est simplement le meilleur achat.

Bonnes pour : serveurs de jeux et travaux par lots

Le silicium grand public est ce contre quoi les logiciels grand public sont écrits et testés. Serveurs de jeux, rendu par lots, ajustement fin de loisir, inférence que vous pouvez relancer — tout ce où un bit erroné est une nouvelle tentative plutôt qu'un désastre — s'exécute ici pour une fraction du prix des étagères professionnelles.

Mauvaises pour : les pipelines vidéo modernes

Un encodeur et un décodeur par carte, et pas d'encodage AV1 sur aucune des cinq — l'encodage AV1 arrive avec la série RTX 40. Si votre pipeline est en AV1, cette génération ne peut pas le faire matériellement et la réponse est une RTX 4090 D ou une L40S à la place.

Mauvaises pour : les longues exécutions sans surveillance

Pas de mémoire à correction d'erreur sur aucune d'elles, et pas de pilote professionnel certifié. Pour une exécution mesurée en semaines sans point de reprise, ou pour des logiciels sous licence réservés aux cartes professionnelles, prenez plutôt une carte de l'étagère des stations de travail.

Dans quelle machine elles vont, et quelle liaison elles y obtiennent

Chaque carte RTX 30 est un composant PCIe Gen 4. Trois des quatre plateformes qui les accueillent sont en Gen 3, et une est en Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Pour cette génération, le slot décide rarement de quoi que ce soit : une carte qui contient sa propre scène ou ses propres poids touche à peine le bus une fois chargée, et ce ne sont pas des cartes vers lesquelles on diffuse d'énormes lots d'entraînement. C'est noté ici parce que c'est vrai et parce que nous le publions pour chaque carte, pas parce que cela devrait vous faire changer d'avis.

Ce qui tient réellement : la carte de 24 Go en haut de l'échelle

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Lisez ce tableau en descendant d'un barreau pour chaque pas vers le bas de l'échelle. La 3080 Ti contient douze gigaoctets, la 3080 dix, la 3070 Ti et la 3070 huit chacune — donc un modèle de sept à huit milliards de paramètres en précision huit bits est à peu près là où atterrit le bas de cette page, et tout ce qui est plus gros veut la 3090 ou une étagère entièrement différente.

Ce tableau répond à « qu'est-ce qui tient dans cette carte ». La question dans l'autre sens — combien de mémoire un modèle nécessite, et quelle carte la dépasse — a sa propre page.

Ce qu'elles coûtent, avec les machines dans lesquelles elles vont

La carte est une ligne sur la facture et la machine en est une autre. Les deux moitiés ci-dessous proviennent d'une seule lecture du catalogue de commandes, de sorte que le prix et la spécification à côté appartiennent toujours l'un à l'autre.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

La bande passante est non mesurée dans les deux sens sans frais de sortie, une adresse IPv4 est incluse, il n'y a pas de contrat et un mois est la durée par défaut. Pour toutes les autres cartes que nous installons, au même prix, lisez tout le catalogue, avec les prix. Pour les machines en rack et prêtes aujourd'hui, /instant. Pour savoir pourquoi nous louons encore du matériel que tout le monde a retiré, /value.

Les questions que les gens posent vraiment sur cette génération

Votre RTX 3080 est-elle la carte de 10 Go ou celle de 12 Go ?

La carte de 10 Go, avec 8 704 cœurs CUDA — la pièce de lancement d'origine. La révision de 12 Go a 8 960 cœurs et nous ne l'installons pas. Cela compte plus que ne le suggèrent les deux gigaoctets, car un modèle de treize milliards de paramètres en précision huit bits nécessite environ quatorze gigaoctets et ne passe sur aucune des deux, tandis qu'un modèle plus petit passe confortablement sur les deux.

Pourquoi louer une carte de 2020 tout court ?

Parce que la plupart des travaux GPU ne consistent pas à entraîner un modèle de pointe. Il s'agit de servir quelque chose qui tient déjà, d'encoder de la vidéo, de rendre des images ou d'exécuter un serveur de jeux, et pour tout cela, la bonne carte est souvent deux générations en arrière pour une fraction de l'argent. La RTX 3090 contient les mêmes vingt-quatre gigaoctets qu'une carte deux générations plus récente. C'est tout l'argument, et /value en donne la version longue.

Puis-je en mettre deux dans une seule machine ?

C'est une configuration que nous chiffrons plutôt qu'une case à cocher, car le nombre dépend du châssis, de la largeur physique de la carte et du budget d'alimentation. Demandez, et la réponse indique le châssis, le nombre et le délai. Notez que deux cartes sont deux pools de mémoire distincts : un modèle qui ne tient pas dans une 3090 ne tient pas dans deux sans être délibérément réparti entre elles.

La carte est-elle partagée avec quelqu'un d'autre ?

Non. Un locataire par machine physique, et la carte est transmise directement à votre propre système d'exploitation — pas d'hyperviseur, pas de partition, pas de découpage temporel. Vous installez et épinglez votre propre pilote et votre version de CUDA, et rien ne se met à jour sous vos pieds.

Dans combien de temps puis-je en avoir une ?

Cela dépend si la carte est déjà installée, déjà sur notre étagère, ou doit être achetée — et on vous le dit avant de payer. /instant liste les machines en rack et prêtes immédiatement.