Servidores GPU · NVIDIA Blackwell
Servidor dedicado RTX PRO 6000 com a GPU completa de 96 GB
Um servidor dedicado RTX PRO 6000 conosco é uma máquina inteira com uma NVIDIA RTX PRO 6000 Blackwell passada diretamente para o seu próprio sistema operacional: 96 GB de GDDR7 com ECC, mais do que os 80 GB de uma A100 ou de uma H100. Você aluga por mês, ninguém mais usa, e a porta é sem limite de tráfego, então modelos grandes e vídeo entram e saem sem custo extra.
- Núcleos CUDA
- 24.064
- Velocidade da memória
- 1.792 GB/s
- Codificadores de vídeo
- 4 × AV1
- Consumo da placa
- 600 W
Núcleos Tensor de quinta geração. Núcleos RT de quarta geração.
Tem uma RTX PRO 6000 parada?
Coloque a máquina no marketplace da Primcast e ganhe um aluguel mensal de quem precisa de computação.
00Marketplace
Ou alugue uma RTX PRO 6000 do dono dela
Os donos anunciam as máquinas no nosso marketplace e definem eles mesmos o preço mensal. Um anúncio mantido pela nossa empresa irmã, Server Room, é alugado no serverroom.net, não aqui.
01Para que serve
Um servidor GPU de 96 GB para modelos, renderização e vídeo
Você aluga a RTX PRO 6000 quando o trabalho precisa de muita memória em uma única GPU e também precisa desenhar ou codificar. Veja como isso funciona na prática.
01Capacidade
Um modelo grande em uma única GPU
Um modelo de 70 bilhões de parâmetros cabe em 4 bits com espaço para o contexto, e um modelo de 30 bilhões cabe em 8 bits. Tudo fica em um único espaço de endereçamento, então você dispensa o sharding e a segunda máquina.
02Vídeo
Quatro codificadores AV1 integrados
Quatro motores NVENC e quatro NVDEC, todos com AV1. Você pode transcodificar muitos canais ao vivo em hardware e manter o processador livre. A A100 e a H100 não têm nenhum codificador de vídeo.
03Renderização
Ray tracing com espaço para cenas grandes
Os núcleos RT de quarta geração renderizam, e 96 GB comportam cenas e texturas que estourariam uma GPU de 48 GB. Você pode renderizar, codificar e rodar um modelo na mesma placa.
04Um único locatário
A GPU completa, no seu próprio sistema
Sem perfil vGPU, sem compartilhamento de tempo, sem outro cliente na máquina. Algumas ofertas de nuvem para essa GPU são uma máquina virtual em um host compartilhado, então compare equivalentes antes de comparar preços.
02Antes de pedir
Mais memória que uma H100. Veja o que você abre mão
A RTX PRO 6000 tem mais memória do que os aceleradores de data center que instalamos. Duas coisas a separam deles, e uma delas pode decidir por você.
Sem NVLink
Essa GPU não tem ponte NVLink. Duas delas em uma máquina são dois conjuntos separados de 96 GB conversando pelo slot PCIe, não um conjunto de 192 GB. Se o seu modelo precisa de mais de 96 GB em um único espaço de endereçamento, veja a A100 e a H100, que agrupam via NVLink.
GDDR7, não HBM empilhada
A GDDR7 é rápida, 1.792 GB/s, mais do que a A100 de 40 GB e o dobro da L40S. A A100 de 80 GB ainda lê um pouco mais rápido, a 1.935 GB/s. Para atender muitos usuários com um lote grande, a velocidade de leitura define o ritmo, então confira essa coluna se o seu objetivo é vazão.
Se a sua pergunta é “o modelo cabe em uma única GPU”, a RTX PRO 6000 responde com o maior espaço. Se é “quantos tokens por segundo para centenas de usuários”, um acelerador pode valer a pena. A tabela comparativa coloca memória e custo mensal lado a lado.
03Especificações
Especificações da RTX PRO 6000 Blackwell: GDDR7, núcleos Tensor e RT
Números da página de produto da NVIDIA para a Workstation Edition. A Max-Q Edition é o mesmo chip com os mesmos 96 GB a 300 W.
RTX PRO 6000 Blackwell 96GB
Blackwell
96 GB GDDR7 ECC
24,064
1,792 GB/s
600 W
PCIe Gen 5 x16
4 NVENC, 4 NVDEC, AV1
Yes
- 125 TFLOPS FP32
- 380 TFLOPS RT
- Núcleos Tensor com FP4
- MIG, até 4 instâncias
04Escolhendo
RTX PRO 6000 vs H100, A100 e RTX 6000 Ada
As GPUs de grande memória que instalamos, com a memória e o custo mensal lado a lado. Memória e preço não sobem juntos nessa prateleira, e é por isso que vale a pena ler.
57 GPU models in the catalogue today · none holds more than 96 GB
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| A40 | 48 GB GDDR6 | $499 | $572.47 |
| RTX 6000 ADA | 48 GB GDDR6 ECC | $625 | $698.47 |
| A100 80GB | 80 GB HBM2e | $899 | $972.47 |
| RTX PRO 6000 Blackwell 96GB | 96 GB GDDR7 ECC | $1,299 | $1,382.67 |
| H100 80GB | 80 GB HBM2e | $1,599 | $1,682.67 |
A RTX 6000 Ada é a GPU profissional anterior, com 48 GB de GDDR6. A RTX PRO 6000 dobra isso em silício mais novo. Se 48 GB bastam para o seu trabalho, a Ada é a entrada mais barata. Para cada GPU que instalamos, com preço no mesmo formato, veja todos os servidores GPU com preços.
05A máquina
Em qual servidor ela entra, e o link PCIe que recebe
A RTX PRO 6000 é uma GPU PCIe Gen 5. Cada máquina abaixo mostra o link que o slot oferece, para você ver o que recebe antes de escolher.
Intel Xeon Silver / Gold
AMD EPYC
Depois que os pesos estão carregados na GPU, o slot fica quase ocioso, o que cobre a maioria da inferência, a maioria da renderização e toda a transcodificação. Um loop de treinamento que envia um lote novo pelo slot a cada passo é o trabalho que sente a diferença. Conte o que você vai rodar e indicamos a máquina certa.
06Dimensionamento
O que cabe em 96 GB de memória de GPU
Somente pesos. Deixe espaço para a janela de contexto e o runtime por cima.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — fits | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — tight | 34 GB — fits | 19 GB — fits |
| 70 billion parameters | 140 GB — does not fit | 70 GB — tight | 38 GB — fits |
Um modelo de 70 bilhões em 8 bits carrega, mas deixa pouco espaço para um contexto longo ou um segundo usuário. Em 4 bits cabe com folga. Para calcular do seu modelo para a GPU, use a página de dimensionamento de memória para LLM.
07Preços
Alugue uma RTX PRO 6000: preços com a máquina
A GPU é uma linha na sua fatura e o servidor é outra. Ambas vêm do catálogo de pedidos que o checkout usa, então cada preço abaixo pertence à máquina ao lado.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX PRO 6000 Blackwell 96GB | Intel Xeon Silver / Gold | $1,299 | $1,382.67 Configure this build → |
| RTX PRO 6000 Blackwell 96GB | AMD EPYC | $1,299 | $1,516.59 Configure this build → |
A porta é sem limite de tráfego nos dois sentidos, sem cobrança de egresso. Um endereço IPv4 e um IPv6 vêm com o servidor, você paga um mês por vez e não há contrato. Uma configuração tem uma taxa única de instalação, mostrada no pedido antes de você pagar.
08Entrega e ajuda
Em quanto tempo você recebe, e quem responde
Depende de onde a GPU está agora. Você é informado de qual dessas opções se aplica antes de pagar.
- Cerca de 30 minutos
Já instalada em rack
Uma máquina com a GPU instalada está em um rack, e é sua cerca de 30 minutos depois que o pedido é aprovado.
- 4 a 24 horas
Na nossa prateleira
Instalamos uma GPU que já temos no servidor que você escolheu.
- 5 a 10 dias úteis
Comprada sob encomenda
Pedimos a GPU a um distribuidor e depois a instalamos no seu servidor.
- 10 a 15 dias úteis
Por alocação
Quando os distribuidores racionam uma GPU, informamos a data antes de você se comprometer.
As perguntas vão para o nosso chat. Um assistente de IA responde em segundos e pode verificar sua conta e seu servidor, e uma pessoa da nossa equipe entra sempre que você pedir. Máquinas instaladas em rack e prontas agora estão em servidores instantâneos.
09Perguntas
Perguntas sobre o aluguer de uma RTX PRO 6000
01A RTX PRO 6000 Blackwell é igual à RTX 6000 Ada?
Não, embora os nomes sejam parecidos. A RTX 6000 Ada Generation é a GPU profissional anterior, com 48 GB de GDDR6 e ECC. A RTX PRO 6000 Blackwell, por vezes procurada como RTX 6000 Pro, tem 96 GB de GDDR7 com ECC no chip Blackwell mais recente. Instalamos ambas, e a tabela comparativa mostra cada uma com o preço da respetiva máquina.
02A RTX PRO 6000 suporta NVLink?
Não. Esta GPU não tem conector NVLink, pelo que duas delas num servidor funcionam como dois conjuntos separados de 96 GB ligados através de PCIe. Se precisar de mais de 96 GB agregados, as A100 e H100 suportam NVLink.
03Quanto custa alugar uma RTX PRO 6000?
A configuração completa mais barata, a GPU e o servidor em conjunto, custa $1,382.67 por mês atualmente. A tabela de preços nesta página lista todas as máquinas em que a GPU pode ser instalada, lida em tempo real do catálogo de encomendas, com uma ligação para configurar cada uma. Não há contrato e a porta não tem limite de tráfego.
04Devo alugar uma RTX PRO 6000 ou uma H100?
Alugue a RTX PRO 6000 quando o modelo tiver de caber numa única GPU, ou quando o trabalho também renderizar ou codificar vídeo. Alugue uma H100 quando precisar de NVLink para agregar várias GPUs, ou de memória HBM para servir com lotes grandes. A tabela comparativa mostra a memória e o custo mensal de ambas.
05A GPU é partilhada ou dividida em GPUs virtuais?
Não. Recebe a GPU completa passada diretamente para o seu próprio sistema operativo, numa máquina que mais ninguém utiliza: sem hipervisor, sem perfil vGPU, sem partilha de tempo. A GPU suporta MIG com até quatro instâncias, pelo que pode dividi-la você mesmo se o seu trabalho se adequar a isso.
06Que versão do driver NVIDIA e do CUDA vou receber?
As que escolher. O servidor vem com um sistema operativo limpo e acesso root, e instala e fixa as versões do driver, CUDA e framework de que o seu código precisa. Nada é atualizado sem o seu conhecimento.
07Posso ter duas GPUs RTX PRO 6000 num servidor?
Sim, como configuração por orçamento e não como opção de checkout. Com até 600 W cada, a chassis e o seu orçamento de energia determinam quantas cabem e qual a edição a instalar. Diga-nos o que planeia executar e responderemos com a chassis, a quantidade e o prazo de entrega. Para configurações maiores, consulte servidores multi-GPU e multi-nó.
08Em quanto tempo posso ter um servidor RTX PRO 6000?
Cerca de 30 minutos após a aprovação se uma máquina em rack já tiver a GPU, 4 a 24 horas se tivermos uma em stock, 5 a 10 dias úteis se a comprarmos, e 10 a 15 dias úteis quando estiver em alocação. Será informado de qual se aplica antes de pagar. As máquinas em rack estão listadas em servidores instantâneos.
Escolha a sua máquina e adicione a GPU
Cada configuração RTX PRO 6000 tem o preço indicado acima com o respetivo servidor. Escolha uma, configure-a e a encomenda mostra o total mensal completo antes de pagar.