RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Serie RTX 30 : cinque schede, da 8 GB a 24 GB

I processori Ampere per il mercato consumer del 2020 sono ancora presenti nei rack e vengono ancora noleggiati, perché nulla ha sostituito ciò in cui eccellono davvero: la massima potenza di calcolo per chilogrammo sul mercato. L'unica domanda che merita una pagina è quale dei cinque scegliere, e la risposta onesta di solito dipende da un solo numero: quanta memoria è necessaria.

8, 10, 12 e 24 GB Nessun ECC Un codificatore, nessun AV1

Quale dei cinque

Iniziate dalle più economiche. Scorrete la colonna della memoria fino a trovare quella che vi serve, poi fermatevi: le schede soprastanti sono più veloci nello svolgere lo stesso compito, ma non sono in grado di farne uno diverso.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

La trappola al centro di quel tavolo

La nostra RTX 3080 è la scheda originale da 10 GB , quella con 8.704 core CUDA. NVIDIA ha poi commercializzato una revisione da 12 GB con 8.960 core, e molte inserzioni online riportano la cifra di 12 GB accanto alla scheda più economica. Dieci gigabyte non sono dodici: è la differenza tra poter gestire un modello con tredici miliardi di parametri a otto bit e non poterlo fare. Se state confrontando le vostre specifiche con un valore letto altrove, confrontatelo con il nostro.

Un altro passaggio da tenere d'occhio è quello dalla 3080 Ti alla 3090. Rappresenta il salto di capacità più grande della gamma, da dodici gigabyte a ventiquattro, ed è l'unica delle cinque a superare i 24 GB. Se ne avete bisogno, nessuna scheda più economica in questa pagina sarà adatta, e le alternative sono disponibili nell'intero catalogo, con prezzi diversi .

Le specifiche, così come vengono pubblicate da NVIDIA.

Core di ray-tracing di seconda generazione, core tensoriali di terza generazione, PCIe Gen 4 su tutta la piattaforma. Dati tratti dalle pagine di confronto GeForce di NVIDIA, citate nella fonte di questa pagina.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

In cosa sono bravi e in cosa non lo sono

Queste schede hanno sei anni e non le abbiamo ancora dismesse perché, per la maggior parte del lavoro effettivo, rimangono la scelta migliore, non un compromesso.

Ottimo per: capacità economica

La RTX 3090 offre gli stessi 24 GB di memoria della RTX 4090 D, due generazioni più recente, a un prezzo inferiore. Quando la capacità è ciò che conta e la velocità di clock non è un fattore limitante, la scheda video precedente rappresenta semplicemente un acquisto migliore.

Competenze principali: server di gioco e elaborazione batch

Il silicio per il mercato consumer è il modello su cui vengono scritti e testati i software per il mercato consumer. Server di gioco, rendering batch, ottimizzazione per hobby, inferenza con possibilità di ripetizione – qualsiasi operazione in cui un errore si traduce in un nuovo tentativo anziché in un disastro – funziona su questi chip a una frazione del prezzo dei processori professionali.

Scarso in: pipeline video moderne

Un encoder e un decoder per scheda, e nessuna codifica AV1 su nessuna delle cinque: la codifica AV1 è disponibile solo con la serie RTX 40. Se la vostra pipeline utilizza AV1, questa generazione non è in grado di gestirla a livello hardware e la soluzione migliore è optare per una RTX 4090 D o una L40S.

Non è bravo a: lunghe corse senza supervisione

Nessuna di queste schede dispone di memoria di correzione degli errori e nessun driver professionale certificato. Per un utilizzo che si misura in settimane senza checkpoint, o per software con licenza solo per schede professionali, è meglio utilizzare una scheda di rete preinstallata nelle workstation.

In quale macchina entrano e quale collegamento ottengono lì

Ogni scheda RTX 30 è un componente PCIe di quarta generazione. Tre delle quattro piattaforme che le supportano sono di terza generazione, mentre una è di quarta generazione.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Per questa generazione, lo slot raramente fa la differenza: una scheda che gestisce la propria scena o i propri pesi ha un impatto minimo sul bus una volta caricata, e non si tratta di schede su cui vengono eseguiti enormi batch di training. Lo riportiamo qui perché è vero e perché lo pubblichiamo per ogni scheda, non perché debba farvi cambiare idea.

Ciò che effettivamente ci sta: la scheda da 24 GB in cima alla scala

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — fits
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

Leggete la tabella un gradino più in basso per ogni livello inferiore. La 3080 Ti ha dodici gigabyte, la 3080 dieci, la 3070 Ti e la 3070 otto ciascuna: quindi un modello con sette-otto miliardi di parametri a otto bit di precisione si trova all'incirca in fondo a questa pagina, e per prestazioni superiori è necessario il modello 3090 o un altro modello di fascia superiore.

Quanto costano, con le macchine in cui entrano

La scheda tecnica è riportata su una riga della fattura, mentre la macchina su un'altra. Entrambe le parti sottostanti derivano da una singola lettura del catalogo ordini, pertanto il prezzo e le specifiche che lo accompagnano si riferiscono sempre l'uno all'altro.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

La larghezza di banda è illimitata in entrambe le direzioni senza costi in uscita, è incluso un indirizzo IPv4, non c'è contratto e la durata predefinita è di un mese. Per tutte le altre schede che installiamo, con lo stesso prezzo, consulta l'intero catalogo, prezzi . Per le macchine installate e pronte oggi stesso, /instant . Per scoprire perché continuiamo a noleggiare hardware che tutti gli altri hanno dismesso, /value .

Domande che le persone si pongono davvero su questa generazione

La tua RTX 3080 è la versione da 10 GB o quella da 12 GB?

La scheda da 10 GB, con 8.704 core CUDA, è la versione originale al lancio. La revisione da 12 GB ha 8.960 core e non è compatibile. Questo è più importante di quanto suggeriscano i due gigabyte, perché un modello con tredici miliardi di parametri a otto bit di precisione richiede circa quattordici gigabyte e non è sufficiente a coprire entrambi i requisiti, mentre un modello più piccolo li soddisfa entrambi senza problemi.

Perché noleggiare una carta 2020?

Perché la maggior parte del lavoro con le GPU non consiste nell'addestrare un modello di frontiera. Si tratta di servire qualcosa che già si adatta, codificare video, renderizzare frame o eseguire un server di gioco, e per tutte queste attività la scheda giusta è spesso di due generazioni precedenti a una frazione del prezzo. La RTX 3090 ha la stessa capacità di ventiquattro gigabyte di una scheda di due generazioni più recente. Questo è il punto centrale della questione, e /value ne fornisce una versione più estesa.

Posso inserirne due in una sola macchina?

Si tratta di una configurazione che viene preventivata, non di una semplice casella da spuntare, perché il numero di schede dipende dallo chassis, dalla larghezza fisica della scheda stessa e dal fabbisogno energetico. Chiedete e vi risponderemo indicando lo chassis, il numero di schede e i tempi di consegna. Tenete presente che due schede corrispondono a due pool di memoria separati: un modello che non entra in un case 3090 non entra nemmeno in due, a meno che non venga suddiviso appositamente tra di essi.

La carta è condivisa con qualcun altro?

No. Un solo tenant per macchina fisica e la scheda viene passata direttamente al tuo sistema operativo, senza hypervisor, partizioni o time-slicing. Installi e configuri il tuo driver e la tua versione di CUDA, e nessun aggiornamento viene eseguito automaticamente.

Quando potrò averne uno?

Dipende se la scheda è già installata, già disponibile a magazzino, oppure se deve essere acquistata separatamente; in tal caso, ti verrà comunicato prima del pagamento. /elenca istantaneamente le macchine installate e pronte all'uso.