Is your RTX 3080 the 10 GB card or the 12 GB card?

The 10 GB card, with 8,704 CUDA cores -- the original launch part. The 12 GB revision has 8,960 cores and Primcast does not fit it. This matters more than the two gigabytes suggest: a thirteen-billion-parameter model at eight-bit precision needs about fourteen gigabytes and clears neither, while a smaller model clears both comfortably.

Why rent a 2020 graphics card at all?

Because most GPU work is not training a frontier model. It is serving something that already fits, encoding video, rendering frames or running a game server, and for all of those the right card is often two generations back at a fraction of the money. The RTX 3090 holds the same twenty-four gigabytes as a card two generations newer.

Can I put two RTX 30 cards in one machine?

It is a build quoted rather than a checkout option, because the count depends on the chassis, the physical width of the card and the power budget. Note that two cards are two separate memory pools: a model that does not fit in one RTX 3090 does not fit in two without being split across them deliberately.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

How soon can I have an RTX 30 series server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

Série RTX 30 — cinco placas, de 8 GB a 24 GB

Os chips Ampere para o consumidor, de 2020, ainda estão disponíveis para compra e aluguel, porque nada substituiu aquilo em que realmente se destacam: o melhor desempenho por quilo em todo o catálogo. A única pergunta que merece uma página é qual dos cinco escolher, e a resposta honesta geralmente se resume a um número: quanta memória você precisa.

8, 10, 12 e 24 GB Sem ECC Um codificador, sem AV1

Quanto custam, com a máquina

Qual dos cinco

Comece pelo mais barato. Leia até encontrar a coluna de memória que atenda às suas necessidades e pare — as placas acima dela são mais rápidas na mesma tarefa, mas não em outra.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3070	8 GB GDDR6	$139	$209.93
RTX 3070 Ti	8 GB GDDR6X	$149	$222.47
RTX 3080	10 GB GDDR6X	$159	$229.93
RTX 3080 Ti	12 GB GDDR6X	$199	$272.47
RTX 3090	24 GB GDDR6X	$239	$309.93

A armadilha no meio daquela mesa

Nossa RTX 3080 é a placa original de 10 GB , aquela com 8.704 núcleos CUDA. Posteriormente, a NVIDIA lançou uma revisão de 12 GB com 8.960 núcleos, e muitas outras listas mencionam a capacidade de 12 GB ao lado da placa mais barata. Dez gigabytes não são doze: é a diferença entre poder armazenar um modelo de treze bilhões de parâmetros com precisão de oito bits e não poder. Se você estiver comparando o tamanho da placa com base em um número que leu em algum lugar, compare com o nosso.

Outra placa a observar é a transição da 3080 Ti para a 3090. É o maior salto em capacidade na linha — de doze gigabytes para vinte e quatro — e é a única das cinco que ultrapassa os 24 GB. Se você precisa dessa capacidade, nenhuma opção mais barata nesta página atenderá às suas necessidades, e as alternativas estão disponíveis em todo o catálogo, com preços variados .

As especificações, conforme publicadas pela NVIDIA.

Núcleos de ray tracing de segunda geração, núcleos tensores de terceira geração, PCIe Gen 4 em toda a placa. Dados das páginas de comparação GeForce da NVIDIA, citadas na fonte desta página.

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

O que eles fazem bem e o que não fazem.

Essas placas têm seis anos e não as descontinuamos, porque para grande parte do trabalho real elas continuam sendo a compra certa, em vez de uma solução de compromisso.

Bom em: capacidade barata

A RTX 3090 possui os mesmos 24 GB da RTX 4090 D, duas gerações depois, por um preço mensal menor. Quando o que você busca é capacidade e a velocidade do clock não é um fator limitante, a placa mais antiga é simplesmente a melhor compra.

Habilidades: servidores de jogos e processamento em lote

O silício para o consumidor é a base para a qual o software para o consumidor é escrito e testado. Servidores de jogos, renderização em lote, ajustes finos para entusiastas, inferência que pode ser executada novamente — qualquer coisa em que um bit errado resulte em uma nova tentativa em vez de um desastre — é executada aqui por uma fração do preço dos componentes profissionais.

Ruim em: fluxos de trabalho de vídeo modernos

Um codificador e um decodificador por placa, e nenhuma codificação AV1 em nenhuma das cinco — a codificação AV1 chega com a série RTX 40. Se o seu fluxo de trabalho é AV1, esta geração não consegue implementá-lo por hardware, e a solução é uma RTX 4090 D ou uma L40S.

Péssima em: corridas longas sem supervisão

Nenhuma delas possui memória de correção de erros e nenhum driver profissional certificado. Para uma execução que dure semanas sem pontos de verificação, ou para softwares licenciados apenas para placas profissionais, utilize uma placa da prateleira de placas de vídeo para estações de trabalho.

Em qual máquina eles entram e qual link eles acessam?

Todas as placas RTX 30 são PCIe Gen 4. Três das quatro plataformas compatíveis com elas são Gen 3 e uma é Gen 4.

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Para esta geração, o slot raramente decide algo: um cartão que possui sua própria cena ou seus próprios pesos mal toca no barramento depois de carregado, e esses não são cartões para os quais alguém transmite enormes lotes de treinamento. Isso está registrado aqui porque é verdade e porque publicamos para cada cartão, não para mudar sua opinião.

O que realmente cabe: o cartão de 24 GB no topo da lista.

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

Leia essa tabela um degrau abaixo para cada nível da escala. A 3080 Ti tem doze gigabytes, a 3080 dez, a 3070 Ti e a 3070 oito cada — então um modelo com sete a oito bilhões de parâmetros e precisão de oito bits é aproximadamente o limite inferior desta página, e tudo que for maior exige a 3090 ou uma prateleira completamente diferente.

O custo deles, incluindo as máquinas em que são instalados.

O cartão é uma linha na fatura e a máquina é outra. Ambas as metades abaixo provêm de uma única leitura do catálogo de pedidos, portanto o preço e a especificação ao lado sempre pertencem um ao outro.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 3070	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$139	$209.93 Configure this build →
RTX 3070	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$212.47 Configure this build →
RTX 3070 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$222.47 Configure this build →
RTX 3070	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$139	$222.67 Configure this build →
RTX 3080	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$159	$229.93 Configure this build →
RTX 3080	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$232.47 Configure this build →
RTX 3070 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$149	$232.67 Configure this build →
RTX 3080	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$159	$242.67 Configure this build →
RTX 3080 Ti	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$272.47 Configure this build →
RTX 3080 Ti	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$199	$282.67 Configure this build →
RTX 3090	Intel Xeon E5-2600 v1/v2 Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0	$239	$309.93 Configure this build →
RTX 3090	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$312.47 Configure this build →
RTX 3090	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$239	$322.67 Configure this build →
RTX 3080	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$159	$376.59 Configure this build →

A largura de banda é ilimitada em ambas as direções, sem cobrança de saída, um endereço IPv4 está incluído, não há contrato e o prazo padrão é de um mês. Para todas as outras placas que instalamos, com o mesmo preço, consulte o catálogo completo . Para máquinas prontas para uso imediato, /instant . Para saber por que ainda alugamos hardware que todos os outros aposentaram, /value .

Perguntas que as pessoas realmente fazem sobre esta geração

Sua RTX 3080 é a placa de 10 GB ou a de 12 GB?

A placa de 10 GB, com 8.704 núcleos CUDA — a versão original de lançamento. A revisão de 12 GB tem 8.960 núcleos e não cabe no nosso sistema. Isso importa mais do que os dois gigabytes sugerem, porque um modelo com treze bilhões de parâmetros e precisão de oito bits precisa de cerca de quatorze gigabytes e não cabe em nenhum dos dois, enquanto um modelo menor cabe em ambos com folga.

Por que alugar um cartão de 2020?

Porque a maior parte do trabalho com GPUs não envolve treinar um modelo de vanguarda. Trata-se de executar algo que já se encaixa, como codificar vídeo, renderizar frames ou rodar um servidor de jogos, e para todas essas tarefas, a placa ideal geralmente é de duas gerações atrás, por uma fração do preço. A RTX 3090 tem os mesmos 24 gigabytes de memória que uma placa duas gerações mais recente. Esse é o argumento principal, e o /value apresenta a versão mais completa dele.

Posso colocar duas delas em uma mesma máquina?

Trata-se de um orçamento para a configuração, e não de uma simples seleção de opções, pois a quantidade de placas depende do gabinete, da largura física da placa e do consumo de energia. Ao solicitar o orçamento, a resposta especifica o gabinete, a quantidade de placas e o prazo de entrega. Observe que duas placas de vídeo representam dois conjuntos de memória separados: um modelo que não cabe em um gabinete 3090 não caberá em dois sem ser dividido entre eles propositalmente.

O cartão foi compartilhado com mais alguém?

Não. Um único usuário por máquina física, e a placa é repassada diretamente para o seu próprio sistema operacional — sem hipervisor, sem particionamento, sem fatiamento de tempo. Você instala e fixa seu próprio driver e versão do CUDA, e nada é atualizado sem a sua permissão.

Em quanto tempo posso receber um?

Depende se o cartão já está instalado, se já está em estoque ou se precisa ser comprado — e você será informado disso antes de pagar. /instant lista as máquinas instaladas e prontas para uso no momento.