Is your RTX 3080 the 10 GB card or the 12 GB card?

The 10 GB card, with 8,704 CUDA cores -- the original launch part. The 12 GB revision has 8,960 cores and Primcast does not fit it. This matters more than the two gigabytes suggest: a thirteen-billion-parameter model at eight-bit precision needs about fourteen gigabytes and clears neither, while a smaller model clears both comfortably.

Why rent a 2020 graphics card at all?

Because most GPU work is not training a frontier model. It is serving something that already fits, encoding video, rendering frames or running a game server, and for all of those the right card is often two generations back at a fraction of the money. The RTX 3090 holds the same twenty-four gigabytes as a card two generations newer.

Can I put two RTX 30 cards in one machine?

It is a build quoted rather than a checkout option, because the count depends on the chassis, the physical width of the card and the power budget. Note that two cards are two separate memory pools: a model that does not fit in one RTX 3090 does not fit in two without being split across them deliberately.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

How soon can I have an RTX 30 series server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Seria RTX 30 — cinci plăci video, de la 8 GB la 24 GB

Siliciu Ampere de larg consum din 2020, încă în rack și încă închiriat, pentru că nimic nu a înlocuit ceea ce este de fapt bun: cel mai bun preț pe kilogram din catalog. Singura întrebare care merită o pagină este care dintre cele cinci, iar răspunsul sincer se bazează de obicei pe un singur număr - de câtă memorie ai nevoie.

8, 10, 12 și 24 GB Fără ECC Un codificator, fără AV1

Cât costă, cu tot cu mașină

Care dintre cele cinci

Cele mai ieftine mai întâi. Citește în jos până când coloana de memorie conține ceea ce ai nevoie, apoi oprește-te - cărțile de deasupra sunt mai rapide la aceeași sarcină, nefiind capabile de una diferită.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3070	8 GB GDDR6	$139	$209.93
RTX 3070 Ti	8 GB GDDR6X	$149	$222.47
RTX 3080	10 GB GDDR6X	$159	$229.93
RTX 3080 Ti	12 GB GDDR6X	$199	$272.47
RTX 3090	24 GB GDDR6X	$239	$309.93

Capcana din mijlocul mesei

RTX 3080 este placa noastră video originală de 10 GB , cea cu 8.704 nuclee CUDA. NVIDIA a lansat ulterior o versiune de 12 GB cu 8.960, iar multe listări din alte părți menționează cifra de 12 GB alături de placa mai ieftină. Zece gigaocteți nu înseamnă doisprezece: este diferența dintre a păstra un model de treisprezece miliarde de parametri la o precizie de opt biți și a nu-l păstra. Dacă dimensionați în funcție de un număr pe care l-ați citit în altă parte, dimensionați în funcție de al nostru.

Celălalt aspect de urmărit este trecerea de la 3080 Ti la 3090. Este cel mai mare salt de capacitate de pe scară - de la doisprezece gigaocteți la douăzeci și patru - și este singurul dintre cele cinci care are 24 GB de spațiu de stocare. Dacă aveți nevoie de asta, nimic mai ieftin de pe această pagină nu este potrivit, iar alternativele sunt disponibile în întregul catalog, la prețuri ...

Specificațiile, așa cum le publică NVIDIA

Nuclee ray-tracing de a doua generație, nuclee tensor de a treia generație, PCIe Gen 4 pe toate platformele. Cifrele provin de pe paginile de comparație GeForce ale NVIDIA, citate în sursa acestei pagini.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

La ce sunt buni și la ce nu sunt

Aceste carduri au șase ani și nu le-am retras, deoarece, pentru o mare parte din munca reală, ele rămân achiziția corectă, mai degrabă decât compromisul.

Bun la: capacitate ieftină

RTX 3090 are aceiași 24 GB de memorie ca RTX 4090 D, două generații mai târziu, la un preț mai mic în fiecare lună. Când capacitatea este ceea ce cumperi și viteza ceasului de perete nu este o constrângere obligatorie, placa mai veche este pur și simplu o achiziție mai bună.

Bun la: servere de jocuri și lucru în lot

Software-ul de consum este baza siliconului de bază pentru scrierea și testarea acestuia. Serverele de jocuri, randarea în serie, reglajele fine pentru hobby-uri, inferențele reluabile — orice în care un bit greșit este o reîncercare, nu un dezastru — rulează aici la o fracțiune din prețul de raft profesional.

Nu este potrivit pentru: canale video moderne

Un encoder și un decoder per placă și nicio codificare AV1 pe niciuna dintre cele cinci — codificarea AV1 este inclusă în seria RTX 40. Dacă pipeline-ul dvs. este AV1, această generație nu o poate face în hardware, iar răspunsul este un RTX 4090 D sau un L40S.

Slab la: alergări lungi nesupravegheate

Niciuna dintre ele nu are memorie corectoare de erori și niciun driver profesional certificat. Pentru o funcționare măsurată în săptămâni fără puncte de control sau pentru software licențiat doar pentru plăci profesionale, luați în schimb o placă de pe raftul stației de lucru.

În ce mașină intră și ce legătură ajung acolo

Fiecare placă RTX 30 este o componentă PCIe Gen 4. Trei dintre cele patru platforme care le acceptă sunt Gen 3, iar una este Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Pentru această generație, slotul rareori decide ceva: o carte care își deține propria scenă sau propria greutate abia atinge magistrala odată ce este încărcată, iar acestea nu sunt cărți pe care cineva le transmite în flux loturi enorme de antrenament. Este înregistrat aici pentru că este adevărat și pentru că îl publicăm pentru fiecare carte, nu pentru că ar trebui să vă schimbe părerea.

Ce se potrivește de fapt: cardul de 24 GB din vârful listei

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Citiți tabelul respectiv cu o treaptă mai jos pentru fiecare etapă. 3080 Ti are doisprezece gigaocteți, 3080 zece, 3070 Ti și 3070 opt fiecare - deci un model cu șapte până la opt miliarde de parametri la o precizie de opt biți este aproximativ punctul de jos al acestei pagini, iar orice model mai mare are nevoie de 3090 sau de un cu totul alt model.

Cât costă, cu mașinile în care intră

Cartela este pe o linie de pe factură, iar aparatul pe alta. Ambele jumătăți de mai jos provin dintr-o singură citire a catalogului de comenzi, așadar prețul și specificațiile de lângă acesta aparțin întotdeauna unul celuilalt.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 3070	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$139	$209.93 Configure this build →
RTX 3070	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$212.47 Configure this build →
RTX 3070 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$222.47 Configure this build →
RTX 3070	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$222.67 Configure this build →
RTX 3080	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$159	$229.93 Configure this build →
RTX 3080	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$232.47 Configure this build →
RTX 3070 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$232.67 Configure this build →
RTX 3080	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$242.67 Configure this build →
RTX 3080 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$272.47 Configure this build →
RTX 3080 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$282.67 Configure this build →
RTX 3090	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$239	$309.93 Configure this build →
RTX 3090	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$312.47 Configure this build →
RTX 3090	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$322.67 Configure this build →
RTX 3080	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$159	$376.59 Configure this build →

Lățimea de bandă este nelimitată în ambele direcții, fără taxă de ieșire, este inclusă o adresă IPv4, nu există contract, iar termenul implicit este o lună. Pentru fiecare altă placă pe care o instalăm, cu același preț, citiți întregul catalog, preț ... Pentru mașinile instalate în rack și gata de utilizare astăzi, /instant ... De ce încă închiriem hardware de la care toți ceilalți s-au pensionat, /value ...

Întrebări pe care oamenii le pun de fapt despre această generație

Placa ta RTX 3080 este de 10 GB sau de 12 GB?

Placa de 10 GB, cu 8.704 nuclee CUDA — piesa originală de lansare. Revizia de 12 GB are 8.960 nuclee și nu o încadrăm. Acest lucru contează mai mult decât sugerează cei doi gigaocteți, deoarece un model cu treisprezece miliarde de parametri la o precizie de opt biți are nevoie de aproximativ paisprezece gigaocteți și nu șterge niciunul, în timp ce un model mai mic le șterge pe amândouă confortabil.

De ce să închiriezi un card în 2020?

Deoarece majoritatea muncii GPU nu constă în antrenarea unui model de frontieră. Ci în deservirea a ceva ce se potrivește deja, codarea video, randarea cadrelor sau rularea unui server de jocuri, iar pentru toate acestea, placa potrivită este adesea cu două generații mai veche, la o fracțiune din preț. RTX 3090 are aceiași douăzeci și patru de gigaocteți ca o placă cu două generații mai nouă. Acesta este întregul argument, iar /value este versiunea mai lungă a acestuia.

Pot pune două într-o singură mașină?

Este o versiune pe care o cităm, nu o căsuță pe care o bifezi, deoarece numărul depinde de șasiu, lățimea fizică a plăcii și bugetul de putere. Întreabă, iar răspunsul menționează șasiul, numărul și timpul de livrare. Reține că două plăci sunt două pool-uri de memorie separate: un model care nu încape într-un 3090 nu încape în două fără a fi împărțit în mod deliberat între ele.

Este cardul partajat cu altcineva?

Nu. Un singur chiriaș per mașină fizică, iar cardul este transmis direct către propriul sistem de operare — fără hypervisor, fără partiție, fără time-slicing. Instalați și fixați propriul driver și versiunea CUDA, iar nimic nu se actualizează sub tine.

Cât de curând pot avea unul?

Depinde dacă cardul este deja montat, deja pe raftul nostru sau trebuie cumpărat direct — și ți se spune care dintre acestea înainte de a plăti. /instant listează mașinile instalate și gata chiar acum.