Servidor GPU · série RTX 30
Servidor dedicado RTX 3080 mais quatro GPUs RTX 30, de 8 GB a 24 GB
Um servidor dedicado RTX 3080 da Primcast é uma máquina física inteira com uma NVIDIA GeForce RTX 3080 entregue ao seu próprio sistema operacional: 10 GB GDDR6X e 8,704 núcleos CUDA, sem máquina virtual e sem vizinhos. Se o seu trabalho precisa de mais memória, nossos servidores também aceitam uma RTX 3080 Ti ou uma 24 GB RTX 3090. Você paga por mês, sem contrato.
- RTX 30708 GB GDDR65,888
- RTX 3070 Ti8 GB GDDR6X6,144
- RTX 308010 GB GDDR6X8,704
- RTX 3080 Ti12 GB GDDR6X10,240
- RTX 309024 GB GDDR6X10,496
Todas as cinco: PCIe Gen 4, um codificador de vídeo, sem memória ECC.
01Escolha uma
Qual servidor da série RTX 30 se encaixa no seu trabalho
Comece no topo desta tabela e pare na primeira GPU com memória suficiente para o que você carrega. As GPUs mais abaixo fazem o mesmo trabalho mais rápido. A única coisa que acrescentam é espaço para um modelo ou cena maior.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3070 | 8 GB GDDR6 | $139 | $209.93 |
| RTX 3070 Ti | 8 GB GDDR6X | $149 | $222.47 |
| RTX 3080 | 10 GB GDDR6X | $159 | $229.93 |
| RTX 3080 Ti | 12 GB GDDR6X | $199 | $272.47 |
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
Nossa RTX 3080 é o modelo de 10 GB
A NVIDIA fabricou duas RTX 3080. A nossa é a original, com 10 GB GDDR6X e 8,704 núcleos CUDA. A versão posterior tem 12 GB e 8.960 núcleos, e muitos anúncios citam 12 GB para a GPU mais barata. dimensione seu trabalho para 10 GB. Um modelo de 13 bilhões de parâmetros em 8 bits precisa de cerca de 14 GB, então não cabe em nenhuma das versões.
A RTX 3090 é o grande salto
Passar da RTX 3080 Ti para a RTX 3090 dobra a memória, de 12 GB para 24 GB GDDR6X. É a única GPU RTX 30 com 24 GB. Se o seu modelo ou cena precisa disso, nada mais barato aqui vai executá-lo. Para mais de 24 GB, veja todas as GPUs que instalamos, com preços.
02Para que serve
O que as pessoas executam em um servidor GPU RTX 3080
Essas GPUs saíram em 2020 e ainda as alugamos, porque muito trabalho real não precisa de nada mais novo. Para esses quatro trabalhos, uma GPU mais antiga resolve por menos a cada mês.
01IA
Executar um modelo que já cabe
Servir um modelo 7B, testar prompts ou ajustar algo pequeno. Um modelo de 7-8B carrega em 4 bits em qualquer uma das cinco, e em 8 bits na RTX 3080 com pouco espaço de sobra. A RTX 3090 comporta um modelo 13B em 8 bits com espaço restante para contexto.
02Jogos
Servidores de jogos que precisam de uma GPU de verdade
Os jogos são escritos e testados em GPUs GeForce como essas. Se o seu servidor de jogos renderiza ou transmite, a série RTX 30 executa os mesmos drivers GeForce que seus jogadores têm em casa.
03Renderização
Renderizações em lote que você pode reiniciar
Blender, Unreal ou seu próprio pipeline, quadro após quadro. Se um trabalho falha, você o executa novamente, então não precisa pagar por memória com correção de erros. Gaste o dinheiro em núcleos CUDA.
04Vídeo
Codificação H.264 e HEVC
Cada GPU tem um codificador de hardware e um decodificador para H.264 e HEVC. Isso cobre canais ao vivo ou uma fila de uploads sem sobrecarregar o processador. Para AV1, ou muitos canais em uma máquina, veja servidores de transcodificação de vídeo ao vivo.
03Antes de pedir
Duas coisas que a série RTX 30 não consegue fazer
Ambas estão na especificação da própria NVIDIA para essas GPUs. Verifique-as em relação ao seu trabalho antes de pedir.
Sem codificação AV1
Nenhuma das cinco consegue codificar AV1 em hardware. A NVIDIA adicionou isso com a série RTX 40. Se o seu pipeline envia AV1, escolha um servidor RTX 4090 D ou um servidor L40S, que tem três codificadores AV1.
Sem memória ECC, sem driver profissional
Um bit invertido passa despercebido. Isso é aceitável para trabalhos que você pode verificar ou repetir. Para uma execução de treinamento que dura semanas sem pontos de verificação, ou para software licenciado apenas em GPUs profissionais, escolha um da linha workstation em a lista completa de GPUs.
04Especificação
Especificações da RTX 3090, 3080 e 3070
Arquitetura Ampere, núcleos RT de segunda geração, núcleos Tensor de terceira geração e PCIe Gen 4 em todas as cinco. Os números são da NVIDIA, de suas páginas de comparação GeForce.
RTX 3090
Ampere
24 GB GDDR6X
10,496
936 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080 Ti
Ampere
12 GB GDDR6X
10,240
912 GB/s
350 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3080
Ampere
10 GB GDDR6X
8,704
760 GB/s
320 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070 Ti
Ampere
8 GB GDDR6X
6,144
608 GB/s
290 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
RTX 3070
Ampere
8 GB GDDR6
5,888
448 GB/s
220 W
PCIe Gen 4 x16
1 NVENC, 1 NVDEC, no AV1 encode
No
05Dimensionamento de modelo
Seu modelo cabe em uma RTX 3080 ou RTX 3090?
Nos 10 GB da RTX 3080, um modelo de 7-8B cabe em 4 bits e fica apertado em 8 bits. Nos 24 GB da RTX 3090, um modelo 13B cabe em 8 bits e um modelo 30B carrega em 4 bits, com pouco espaço restante para contexto.
RTX 3080, 10 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — does not fit | 8 GB — tight | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — does not fit | 8 GB — tight |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — does not fit |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
RTX 3090, 24 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — does not fit | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — does not fit | 34 GB — does not fit | 19 GB — tight |
| 70 billion parameters | 140 GB — does not fit | 70 GB — does not fit | 38 GB — does not fit |
A RTX 3080 Ti fica entre as duas com 12 GB. A RTX 3070 e a 3070 Ti têm 8 GB, o que comporta um modelo de 7-8B em 4 bits e não em 8 bits. Começando pelo modelo? Dimensionamento de servidor LLM calcula quanta memória de GPU um modelo precisa e qual GPU a atende.
06O servidor ao redor
Em qual servidor cada GPU RTX 30 vai
Toda GPU RTX 30 é uma peça PCIe Gen 4. Um slot Gen 4 dá a ela o link completo. Um slot Gen 3 dá metade, e a lista abaixo mostra qual servidor tem qual.
Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Para a maioria do trabalho com RTX 30, o slot quase não importa. Uma vez que um modelo ou cena está carregado na GPU, muito pouco atravessa o slot. Importa para treinamento que transmite novos lotes do servidor a cada etapa.
07Compare
RTX 3090 vs RTX 4090 D e RTX 5090
A RTX 3090 tem os mesmos 24 GB da RTX 4090 D, uma geração depois, e a RTX 5090, duas gerações adiante, tem 32 GB. Esta tabela mostra quanto custam as GPUs mais novas, cada uma com a máquina completa mais barata em que entra.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
Escolha a GPU mais nova quando velocidade por trabalho ou codificação AV1 é o que você precisa. Quando memória é o que você está pagando, a RTX 3090 geralmente resolve. Por que ainda alugamos hardware mais antigo explica o raciocínio.
08Preços
Preços do servidor dedicado RTX 3080, e das outras quatro
A GPU é uma linha na sua fatura e o servidor é outra. Cada linha mostra a máquina completa, o que a GPU acrescenta e o total mensal, lido do mesmo catálogo que o checkout usa.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX 3070 | Intel Xeon E5-2600 v1/v2 | $139 | $209.93 Configure this build → |
| RTX 3070 | Intel Xeon E5-2600 v3/v4 | $139 | $212.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon E5-2600 v3/v4 | $149 | $222.47 Configure this build → |
| RTX 3070 | Intel Xeon Silver / Gold | $139 | $222.67 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v1/v2 | $159 | $229.93 Configure this build → |
| RTX 3080 | Intel Xeon E5-2600 v3/v4 | $159 | $232.47 Configure this build → |
| RTX 3070 Ti | Intel Xeon Silver / Gold | $149 | $232.67 Configure this build → |
| RTX 3080 | Intel Xeon Silver / Gold | $159 | $242.67 Configure this build → |
| RTX 3080 Ti | Intel Xeon E5-2600 v3/v4 | $199 | $272.47 Configure this build → |
| RTX 3080 Ti | Intel Xeon Silver / Gold | $199 | $282.67 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v1/v2 | $239 | $309.93 Configure this build → |
| RTX 3090 | Intel Xeon E5-2600 v3/v4 | $239 | $312.47 Configure this build → |
| RTX 3090 | Intel Xeon Silver / Gold | $239 | $322.67 Configure this build → |
| RTX 3080 | AMD EPYC | $159 | $376.59 Configure this build → |
- PortaTráfego não medido em ambas as direções, em uma porta que serve apenas a sua máquina.
- EndereçoUm endereço IPv4 incluído.
- PrazoMensal por padrão, sem contrato.
- AjudaNosso assistente de chat responde em segundos e pode verificar sua conta e seu servidor. Peça uma pessoa a qualquer momento.
Precisa de uma máquina hoje? Servidores instantâneos lista o que já está montado. Para comparar todas as GPUs que instalamos, veja Servidores GPU, todos com preço.
Marketplace
Alugue uma GPU da série RTX 30 do dono dela
Donos anunciam suas máquinas da série RTX 30 em nosso marketplace e definem o próprio preço mensal. Se um anúncio diz que vem pela nossa empresa irmã, Server Room, você aluga em serverroom.net.
09Perguntas
Perguntas sobre o servidor RTX 3080 que as pessoas fazem antes de encomendar
01A vossa RTX 3080 é a versão de 10 GB ou de 12 GB?
É a versão de 10 GB, a RTX 3080 original com 8,704 núcleos CUDA. A versão de 12 GB tem 8.960 núcleos, e nós não a instalamos. Se precisar de 12 GB, a RTX 3080 Ti tem essa capacidade.
02Servidor RTX 3080 ou RTX 3090?
Escolha a RTX 3080 se o seu modelo ou cena couber em 10 GB. Entre 10 e 12 GB, opte pela RTX 3080 Ti. Escolha a RTX 3090 se precisar de mais de 12 GB: ela tem 24 GB GDDR6X, o máximo de qualquer GPU RTX 30, e mais núcleos CUDA. Ambas estão na tabela de preços acima, cada uma com a máquina completa.
04Posso colocar duas GPUs RTX 30 num só servidor?
Sim, como uma configuração que orçamentamos em vez de uma opção de checkout, porque depende da chassis, da largura da GPU e do orçamento de energia. Pergunte no chat e indicamos a chassis e o prazo de entrega. Duas GPUs são dois conjuntos de memória separados: um modelo que não cabe numa RTX 3090 tem de ser dividido entre ambas pelo seu software.
05Em quanto tempo posso ter um servidor RTX 3080?
Depende de onde a GPU está, e é informado antes de pagar. Uma GPU que já temos em stock é instalada entre quatro e vinte e quatro horas. Uma que tenhamos de comprar demora cinco a dez dias úteis. Para começar hoje, servidores instantâneos lista as máquinas já montadas em rack.
06O que acontece se a GPU avariar?
Nós substituímo-la. O contrato dá-nos quatro horas a partir do momento em que nos reporta por telefone ou chat ao vivo, e depois disso tem direito a crédito de serviço de acordo com um calendário publicado.
07Quem me ajuda se algo correr mal?
Abra o chat em qualquer página. O nosso assistente responde em segundos, pode consultar a sua conta e o seu servidor, e encaminha-o para um membro da nossa equipa sempre que pedir. Mantém acesso root total à máquina durante todo o tempo.
Obtenha um servidor RTX 3080 para o seu projeto
Escolha o servidor, adicione a RTX 3080 ou qualquer uma das outras quatro, e veja o total mensal antes de pagar. Sem contrato, e a porta é ilimitada.