Servidores GPU · Série RTX 40
Servidor dedicado RTX 4090 e a GPU nele é a RTX 4090D
Nosso servidor dedicado RTX 4090 traz a RTX 4090D, a edição que a NVIDIA fez para a China: os mesmos 24 GB de GDDR6X e a mesma velocidade de memória, com cerca de 11% menos núcleos CUDA. Você aluga a máquina inteira por mês, a GPU completa é repassada ao seu próprio sistema e a porta é sem limite de tráfego.
| Figura | RTX 4090 | RTX 4090D |
|---|---|---|
| Núcleos CUDA | 16.384 | 14.592 |
| Núcleos Tensor | 512 | 456 |
| Memória | 24 GB GDDR6X | 24 GB GDDR6X |
| Largura de banda | 1.008 GB/s | 1.008 GB/s |
| Clock de boost | 2,52 GHz | 2,52 GHz |
| Codificadores AV1 | 2 | 2 |
| Consumo da placa | 450 W | 425 W |
Tem uma GPU da série RTX 40 parada?
Coloque a máquina no marketplace da Primcast, defina seu próprio preço mensal e alugue para quem precisa de computação.
00Marketplace
Ou alugue uma GPU da série RTX 40 do dono dela
Os donos anunciam essas máquinas no nosso marketplace e definem o próprio preço. Um anúncio mantido pela nossa empresa irmã, Server Room, é alugado em serverroom.net, não aqui.
01RTX 4090D vs RTX 4090
O que o D da RTX 4090D significa para o seu trabalho
No fim de 2023, uma regra de exportação dos Estados Unidos colocou a RTX 4090 acima do limite para venda na China. A NVIDIA respondeu com a RTX 4090D, lançada em 28 de dezembro de 2023, com 14.592 núcleos CUDA onde a GPU completa tem 16.384.
O que permanece igual
A memória não muda: 24 GB de GDDR6X em um barramento de 384 bits a 1.008 GB/s. O mesmo vale para o clock de boost de 2,52 GHz e o par de codificadores AV1. Tudo que é limitado pelo tamanho ou pela velocidade da memória se comporta exatamente como em uma 4090 completa: um modelo que cabe em 24 GB continua cabendo, e a leitura é igualmente rápida.
Drivers e software não percebem diferença. É uma GPU GeForce Ada Lovelace, usa o driver GeForce normal, e todo release CUDA, framework e renderizador que roda em uma 4090 roda nela.
O que você abre mão
Cerca de 11% dos shaders e núcleos tensor. A NVIDIA estimou a diferença no mundo real em cerca de 5% em jogos e aplicativos criativos, porque clocks e memória carregam boa parte da carga. Em trabalhos que mantêm todos os shaders ocupados, como um render longo ou um treinamento, planeje até um décimo a menos que uma 4090 completa.
Dizemos isso antes de você pedir, em vez de imprimir “RTX 4090” e deixar você descobrir depois. Se o seu trabalho realmente precisa da GPU completa, pergunte no chat e diremos se conseguimos uma e quanto tempo leva.
02Para que serve
O que um servidor com GPU 4090 faz bem, e onde ele para
Esta é uma GPU de consumo em um rack. É isso que mantém o preço baixo, e é também daí que vêm os limites dela.
01Computação por real
Muita computação pelo dinheiro
O silício GeForce é uma das formas mais baratas de alugar essa quantidade de computação. Ele serve para trabalhos em que um resultado ruim significa repetir, não um desastre: renderização em lote, servidores de jogos, ajuste fino de modelos pequenos, inferência que você pode repetir.
02Vídeo
Ele codifica vídeo, os aceleradores não
Dois codificadores de hardware com AV1, mais um decodificador, então ele transcodifica o dia todo. As A100 e H100 mais acima no nosso catálogo não têm nenhum codificador de vídeo. Para qualquer coisa com vídeo, esta GPU é a escolha certa, não o meio-termo. Veja nossos servidores de transcodificação para trabalho com canais ao vivo.
03Memória
O limite é 24 GB
Um modelo de 13 bilhões de parâmetros cabe em 8 bits, o mesmo modelo em 16 bits não cabe, e um modelo de 70 bilhões não cabe em precisão nenhuma. A tabela de dimensionamento mais abaixo é exata quanto a isso.
04Execuções longas
Sem memória com correção de erros
Não há ECC nem driver profissional certificado. Para uma execução que dura semanas sem checkpoints, ou software cuja licença exige uma GPU profissional, veja a L40S com 48 GB e ECC.
03Especificações
Especificações da NVIDIA RTX 4090D
Os números da GPU que instalamos, da documentação da série RTX 40 da NVIDIA e da matriz de suporte de codificação e decodificação da NVIDIA.
RTX 4090D
Ada Lovelace
24 GB GDDR6X
14,592
1,008 GB/s
425 W
PCIe Gen 4 x16
2 NVENC, 1 NVDEC, AV1
No
04Escolhendo
Servidor RTX 4090, RTX 3090 ou RTX 5090?
As três estão na nossa prateleira hoje e entram nas mesmas máquinas. Então a pergunta não é qual é a mais nova, mas qual vale a diferença para o seu trabalho.
| GPU | GPU memory | The GPU | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
A RTX 3090 tem os mesmos 24 GB e é a forma mais antiga e mais lenta de obtê-los. Se o tamanho da memória é o que você precisa e a velocidade importa menos, leia antes a página de servidores da série RTX 30. A RTX 5090 sobe para 32 GB de GDDR7. É uma GPU PCIe Gen 5 entrando em plataformas Gen 3 e Gen 4, então leia a próxima seção e a página de servidores RTX 5090 antes de presumir que mais novo significa mais rápido aqui.
05A máquina
Em qual máquina a RTX 4090D entra, e o link PCIe dela
A 4090D é uma GPU PCIe Gen 4. Cada plataforma abaixo mostra o slot que ela recebe e o que isso significa na prática.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Já vimos um cliente migrar para uma GPU mais nova em uma plataforma mais antiga e renderizar mais devagar do que antes. Uma vez que a cena ou os pesos estão na memória da GPU, o slot fica quieto e a geração dele deixa de importar. Ela importa quando o seu trabalho empurra dados pelo slot a cada passo. Diga-nos o que você vai rodar e indicaremos a máquina certa.
06Dimensionamento
O que cabe em 24 GB de memória de GPU
Somente pesos. Deixe espaço para o contexto e o runtime por cima.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB, fits | 8 GB, fits | 5 GB, fits |
| 13-14 billion parameters | 28 GB, does not fit | 14 GB, fits | 8 GB, fits |
| 30-34 billion parameters | 68 GB, does not fit | 34 GB, does not fit | 19 GB, tight |
| 70 billion parameters | 140 GB, does not fit | 70 GB, does not fit | 38 GB, does not fit |
O outro limite é a energia. Uma 4090D consome até 425 W, e é por isso que mais de uma em uma máquina é uma configuração que orçamos, não uma caixa que você marca. Para trabalhar a questão no sentido inverso, do seu modelo para a GPU que ele precisa, use a página de dimensionamento de memória para LLM.
07Preços
Preços do servidor RTX 4090D, com a máquina
A GPU é uma linha na sua fatura e o servidor é outra. Ambas vêm do catálogo de pedidos que o checkout usa, então cada preço abaixo pertence à máquina ao lado dele.
| GPU | The machine it goes in | The GPU | Complete, per month |
|---|---|---|---|
| RTX 4090D | Intel Xeon E5-2600 v3/v4 | $299 | $372.47 Configure this build → |
| RTX 4090D | Intel Xeon Silver / Gold | $299 | $382.67 Configure this build → |
| RTX 4090D | AMD EPYC | $299 | $516.59 Configure this build → |
A porta é sem limite de tráfego nos dois sentidos, sem cobrança de egresso. Um endereço IPv4 vem com o servidor, não há contrato, e você paga um mês por vez. Para comparar todas as GPUs que instalamos, com preços no mesmo formato, veja todos os servidores GPU com preços.
08Entrega e ajuda
Em quanto tempo você recebe, e quem responde
Depende de onde a GPU está quando você pede. Você é informado sobre qual destes casos se aplica antes de pagar.
- Cerca de 30 minutos
Já no rack
Uma máquina com a GPU instalada está em um rack. Ela é sua cerca de 30 minutos depois que o pedido é aprovado.
- 4 a 24 horas
Na nossa prateleira
Instalamos uma GPU que já temos no servidor que você escolheu.
- 5 a 10 dias úteis
Comprada sob encomenda
Pedimos a GPU a um distribuidor para você e depois a instalamos no seu servidor.
Perguntas antes ou depois do pedido vão para o nosso chat. Um assistente de IA responde em segundos e pode consultar sua conta e seu servidor, e uma pessoa da nossa equipe entra sempre que você pedir. Máquinas no rack e prontas agora estão em servidores instantâneos.
09Perguntas
Perguntas sobre alugar um servidor RTX 4090
01A RTX 4090D é igual a uma RTX 4090?
Não exatamente. É o mesmo chip AD102 com os mesmos 24 GB de GDDR6X, a mesma largura de banda de 1.008 GB/s e o mesmo clock de boost, mas com 14.592 núcleos CUDA em vez de 16.384. A NVIDIA a fabricou para a China depois que uma regra de exportação dos Estados Unidos passou a abranger a 4090 completa. É uma GPU NVIDIA genuína, não uma remarcação.
02Quanto mais lenta é a RTX 4090D?
A NVIDIA a posicionou em cerca de 5% em jogos e aplicativos criativos. Em cargas que mantêm todos os shaders ocupados, a diferença pode chegar aos 11% da contagem de núcleos. Tudo que é limitado pelo tamanho ou pela velocidade da memória roda igual a uma 4090 completa.
03Posso optar por uma RTX 4090 completa?
Não nesta página. O que instalamos é a 4090D, e deixamos isso claro desde o início. Se o seu trabalho realmente precisar dos shaders extras, conte-nos no chat o que você vai executar e diremos se conseguimos fornecer uma 4090 completa e quanto tempo levaria.
04A 4090D funciona com CUDA, PyTorch e os drivers normais?
Sim. Ela é reconhecida como uma GPU GeForce Ada Lovelace e usa o driver GeForce padrão. Toda versão do CUDA, build de framework e renderizador que roda em uma 4090 roda nela. A diferença está na contagem de núcleos, não na arquitetura.
05A GPU é compartilhada com mais alguém?
Não. Você recebe a GPU completa em uma máquina que ninguém mais usa, passada diretamente para o seu próprio sistema operacional. Não há hipervisor, divisão de vGPU nem compartilhamento de tempo. Você instala e fixa seu próprio driver e versão do CUDA, e nada é atualizado sem o seu conhecimento.
06Devo alugar uma RTX 4090D ou uma RTX 3090 para 24 GB?
Se o tamanho da memória é tudo o que você precisa, a RTX 3090 costuma ser a melhor compra: mesmos 24 GB, mais antiga e geralmente mais barata por mês, como mostra a tabela comparativa. A 4090D é claramente mais rápida e adiciona codificação AV1, que a 3090 não tem. Escolha-a quando suas execuções forem contínuas ou quando você trabalhar com vídeo.
07Posso colocar duas GPUs RTX 4090D em um servidor?
Sim, como uma configuração sob consulta, não como opção de checkout. Cada uma consome até 425 W e não há NVLink, então duas delas são dois conjuntos separados de 24 GB. Conte-nos o que você planeja executar e retornaremos com a máquina, ou veja servidores multi-GPU.
08Em quanto tempo posso ter um servidor dedicado RTX 4090?
Cerca de 30 minutos após a aprovação se uma máquina em rack já tiver a GPU, 4 a 24 horas se tivermos uma em estoque e 5 a 10 dias úteis se precisarmos comprá-la. Você é informado sobre qual caso se aplica antes de pagar. As máquinas em rack estão listadas em servidores instantâneos.
Escolha sua configuração RTX 4090D e veja o preço total
Cada configuração tem o preço acima, junto com o servidor. Escolha uma, configure-a e o pedido mostra o total mensal antes de você pagar.