Servidores GPU · Série RTX 50
Servidor dedicado RTX 5090 com 32 GB para seus modelos e renderizações
Um servidor dedicado RTX 5090 é uma máquina inteira que você aluga por mês com a RTX 5090 da NVIDIA dentro: 32 GB de GDDR7, passados diretamente para o seu próprio sistema operacional. Ninguém mais usa a GPU ou o servidor, a porta não tem medição de tráfego e não há contrato. Se 16 GB forem suficientes para o seu trabalho, a RTX 5080 entra nos mesmos racks por menos.
| Figura | RTX 5090 | RTX 5080 |
|---|---|---|
| Memória da GPU | 32 GB GDDR7 | 16 GB GDDR7 |
| Barramento de memória | 512-bit | 256-bit |
| Núcleos CUDA | 21.760 | 10.752 |
| Clock de boost | 2,41 GHz | 2,62 GHz |
| Codificadores AV1 | 3 | 2 |
| Potência | 575 W | 360 W |
| Interface da GPU | PCIe Gen 5 | PCIe Gen 5 |
Tem uma máquina da série RTX 50 que não está usando?
Anuncie-a no marketplace da Primcast, defina seu próprio preço mensal e deixe que quem precisa de computação a alugue de você.
00Marketplace
Ou alugue uma GPU da série RTX 50 de quem é dono dela
Os proprietários colocam suas máquinas da série RTX 50 em nosso marketplace e definem eles mesmos o preço mensal. Um anúncio marcado como mantido por nossa empresa irmã, Server Room, é alugado em serverroom.net em vez de aqui.
01Para que serve
O que você pode executar em um servidor de IA com RTX 5090
Esta é a maior GPU de consumo da NVIDIA, em um rack. Você recebe muito poder de computação e memória pelo dinheiro, e os limites que vêm com o hardware de consumo.
01Modelos de IA
Inferência e ajuste fino em 32 GB
Um modelo de 30 bilhões de parâmetros em 4 bits cabe com folga, e o mesmo vale para um modelo de 13 bilhões em 8 bits. O mesmo modelo de 13 bilhões em 16 bits completos não deixa espaço suficiente para servi-lo. As tabelas de dimensionamento abaixo mostram todos os casos.
02Renderização
Cenas grandes que permanecem na memória da GPU
Os renderizadores de GPU são rápidos desde que a cena caiba na GPU. 32 GB comportam muito mais geometria e texturas do que as GPUs de 24 GB um degrau abaixo, e um lote de quadros pode rodar durante a noite enquanto sua estação de trabalho fica livre.
03Vídeo
Três codificadores AV1 em uma GPU
A RTX 5090 tem três codificadores de vídeo por hardware e dois decodificadores, então pode transcodificar vários fluxos ao mesmo tempo. Os aceleradores A100 e H100 não têm codificador algum. Para canais ao vivo, veja nossos servidores de transcodificação.
04Limites
Sem memória com correção de erros
As GPUs GeForce não têm ECC nem driver profissional certificado. Isso é aceitável quando um resultado ruim significa apenas repetir a execução. Para execuções que duram semanas sem pontos de verificação, ou software licenciado apenas para GPUs profissionais, veja a RTX PRO 6000 com 96 GB e ECC.
02Especificações
Especificações da NVIDIA RTX 5090 e RTX 5080
Os números que a NVIDIA publica para as duas GPUs da série RTX 50 que instalamos. Ambas usam a arquitetura Blackwell, com Tensor Cores de quinta geração e RT Cores de quarta geração.
RTX 5090
Blackwell
32 GB GDDR7
21,760
512-bit
2.41 GHz
575 W
PCIe Gen 5 x16
3 NVENC (9th generation), 2 NVDEC, AV1
No
RTX 5080
Blackwell
16 GB GDDR7
10,752
256-bit
2.62 GHz
360 W
PCIe Gen 5 x16
2 NVENC (9th generation), 2 NVDEC, AV1
No
03Antes de pedir
O slot PCIe que sua RTX 5090 recebe em cada máquina
Ambas as GPUs são feitas para PCIe Gen 5. Toda plataforma em que as colocamos é Gen 3 ou Gen 4, então o link entre a GPU e o servidor opera abaixo do que a GPU foi projetada para suportar. Veja o que cada máquina oferece a ela.
Intel Xeon E5-2600 v3/v4
Intel Xeon Silver / Gold
AMD EPYC
Dizemos isso com antecedência porque já pegou um cliente antes: uma RTX 5090 em uma plataforma Gen 3 renderizou mais devagar do que a RTX 4090 que substituiu. Um slot mais lento só prejudica quando seu trabalho move dados por ele o tempo todo, como um loop de treinamento que carrega um lote novo do host a cada passo. Inferência, transcodificação e servidores de jogos quase não o tocam depois que tudo está carregado. Não tem certeza de qual é o seu caso? Conte-nos no chat o que você vai executar e indicaremos a máquina certa.
04A menor
Servidor RTX 5080: a mesma geração com 16 GB
A RTX 5080 tem o mesmo design Blackwell, a mesma geração de codificadores AV1 e a mesma interface PCIe Gen 5, com cerca de metade dos núcleos CUDA e metade da memória da RTX 5090.
Quando a RTX 5080 é suficiente
Seu modelo cabe em 16 GB com folga: um modelo de 7 bilhões em 8 bits, ou um modelo de 13 bilhões em 4 bits. Ou o trabalho é vídeo, onde seus dois codificadores AV1 fazem o serviço, ou um servidor de jogos que nunca enche a memória da GPU.
Quando pagar pela RTX 5090
Seu modelo ou cena é maior que 16 GB, ou você quer a memória extra para contextos mais longos e mais usuários ao mesmo tempo. O dobro da memória em um barramento duas vezes mais largo é a diferença real; as velocidades de clock são próximas.
05Dimensionamento
O que cabe em 32 GB e em 16 GB de memória de GPU
Somente pesos. Deixe espaço extra para o contexto e o runtime.
RTX 5090, 32 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: fits | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: fits | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: fits |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
RTX 5080, 16 GB
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB: does not fit | 8 GB: fits | 5 GB: fits |
| 13-14 billion parameters | 28 GB: does not fit | 14 GB: does not fit | 8 GB: fits |
| 30-34 billion parameters | 68 GB: does not fit | 34 GB: does not fit | 19 GB: does not fit |
| 70 billion parameters | 140 GB: does not fit | 70 GB: does not fit | 38 GB: does not fit |
A potência é o outro limite. Uma RTX 5090 consome até 575 W, e é por isso que uma segunda na mesma máquina é uma configuração que cotamos, não uma opção no checkout. Para começar pelo seu modelo e descobrir a GPU de que ele precisa, use a página de dimensionamento de memória para LLM.
06Escolhendo
Servidor RTX 5090, RTX 4090D ou RTX 3090?
Essas GPUs entram nas mesmas máquinas, então a mais nova não é automaticamente a melhor para você. Compare a memória e o preço mensal para o seu trabalho.
| GPU | GPU memory | GPU alone | Cheapest complete machine |
|---|---|---|---|
| RTX 3090 | 24 GB GDDR6X | $239 | $309.93 |
| RTX 5080 | 16 GB GDDR7 | $229 | $312.67 |
| RTX 4090D | 24 GB GDDR6X | $299 | $372.47 |
| RTX 5090 | 32 GB GDDR7 | $399 | $472.47 |
A RTX 4090D e a RTX 3090 têm ambas 24 GB. São GPUs PCIe Gen 4, então o slot custa menos a elas do que custa à série RTX 50. Se o seu trabalho cabe em 24 GB, leia a página do servidor dedicado RTX 4090 e a página de servidores da série RTX 30 antes de decidir.
07Preços
Preços dos servidores RTX 5090 e RTX 5080, com a máquina
Sua fatura mostra a GPU em uma linha e o servidor em outra. Ambos vêm do mesmo catálogo de pedidos que o checkout usa, e cada preço abaixo pertence à máquina ao lado dele.
| GPU | The machine it goes in | GPU alone | Complete, per month |
|---|---|---|---|
| RTX 5080 | Intel Xeon Silver / Gold | $229 | $312.67 Configure this build → |
| RTX 5090 | Intel Xeon E5-2600 v3/v4 | $399 | $472.47 Configure this build → |
| RTX 5090 | Intel Xeon Silver / Gold | $399 | $482.67 Configure this build → |
| RTX 5090 | AMD EPYC | $399 | $616.59 Configure this build → |
O tráfego não é medido em nenhuma das direções e não há taxa de saída. Todo servidor vem com um endereço IPv4, você paga mês a mês e pode sair no fim de qualquer mês. Para ver todas as GPUs que instalamos, com preços da mesma forma, acesse todos os servidores GPU com preços.
08Entrega e ajuda
Quando seu servidor RTX 5090 fica pronto, e quem ajuda você
A entrega depende de onde a GPU está quando você faz o pedido. Pergunte no chat antes de pagar e diremos qual destes casos se aplica à sua configuração.
- Cerca de 30 minutos
Já em um rack
Se uma máquina em rack já tem a GPU instalada, você a recebe cerca de 30 minutos após a aprovação do seu pedido.
- 4 a 24 horas
Em nosso estoque
Temos a GPU em mãos e a instalamos no servidor que você escolheu.
- 5 a 10 dias úteis
Encomendada para você
Compramos a GPU de um distribuidor e a instalamos assim que chega.
Pergunte qualquer coisa em nosso chat, antes ou depois de fazer o pedido. Um assistente de IA responde em segundos e pode verificar sua conta e seu servidor, e uma pessoa da nossa equipe assume sempre que você pedir. Máquinas que estão em rack e prontas agora estão em servidores instantâneos.
09Perguntas
Perguntas sobre alugar um servidor RTX 5090
01O que recebo com um servidor dedicado RTX 5090?
Um servidor físico completo com uma RTX 5090 dentro, alugado por mês. A GPU inteira é passada diretamente para o seu próprio sistema operacional, sem hypervisor, sem divisão de vGPU e sem compartilhamento de tempo. Você instala o driver e a versão do CUDA que quiser, e nada os altera pelas suas costas.
02Existe uma RTX 5090 Server Edition?
Não. A NVIDIA não fabrica uma edição para servidor da RTX 5090. Sua GPU Blackwell com refrigeração passiva para servidores é a RTX PRO 6000 Blackwell Server Edition, com 96 GB de memória e ECC. Também instalamos a RTX PRO 6000: veja a página do servidor dedicado RTX PRO 6000. A RTX 5090 que alugamos é a peça GeForce da NVIDIA’, funcionando em um servidor de rack.
03Uma RTX 5090 funcionará em velocidade máxima nos seus servidores?
Seu link PCIe não. A RTX 5090 é uma GPU PCIe Gen 5 e nossas plataformas são Gen 3 e Gen 4, então o barramento opera na metade ou em um quarto da velocidade projetada, dependendo da máquina. Isso desacelera o treinamento que transmite dados do host a cada etapa. Faz pouca diferença para inferência, transcodificação ou renderização depois que o trabalho é carregado na memória da GPU. O slot que cada máquina oferece está listado nesta página.
04Qual o tamanho de um modelo de IA que um servidor RTX 5090 pode executar?
Com 32 GB, um modelo de 30 bilhões de parâmetros cabe em 4 bits e um modelo de 13 bilhões cabe em 8 bits, ambos com espaço para o contexto. Um modelo de 70 bilhões não cabe em uma única RTX 5090, nem mesmo em 4 bits. Para modelos maiores, veja a página de dimensionamento de memória para LLM.
05RTX 5090 ou RTX 5080: qual devo alugar?
Alugue a RTX 5080 se o seu modelo ou cena couber em 16 GB com folga, ou se o trabalho for principalmente vídeo. Alugue a RTX 5090 quando precisar de mais de 16 GB, ou quiser margem para contextos mais longos e mais usuários. A tabela de preços acima mostra quanto cada uma custa com sua máquina.
06Posso obter uma RTX 5070 ou RTX 5060?
Não. A RTX 5090 e a RTX 5080 são as únicas GPUs da série RTX 50 em nosso catálogo de pedidos, e o configurador não oferece outras. Para uma GPU menor e mais barata, compare as demais em todos os servidores GPU com preços.
07Posso colocar duas GPUs RTX 5090 em um servidor?
Sim, como uma configuração que orçamos em vez de uma opção de checkout. Cada uma consome até 575 W, e as GPUs GeForce RTX 50 não têm NVLink, então duas delas são dois pools separados de 32 GB. Diga-nos o que você planeja executar, ou veja servidores multi-GPU.
08Em quanto tempo posso ter um servidor RTX 5090?
Cerca de 30 minutos após a aprovação se uma máquina em rack já tiver a GPU, 4 a 24 horas se tivermos a GPU em estoque, e 5 a 10 dias úteis se precisarmos comprá-la. Pergunte no chat antes de pagar e informaremos qual caso se aplica.
Escolha sua configuração RTX 5090 e veja o total mensal
Cada configuração acima tem o preço com seu servidor. Escolha uma, configure-a do seu jeito, e o pedido mostra o preço mensal completo antes de você pagar.