Servidores GPU · NVIDIA Blackwell

Servidor dedicado RTX PRO 6000 con la GPU completa de 96 GB

Un servidor dedicado RTX PRO 6000 nuestro es una máquina entera con una NVIDIA RTX PRO 6000 Blackwell pasada directamente a tu propio sistema operativo: 96 GB de GDDR7 con ECC, más que los 80 GB de una A100 o una H100. La alquilas por meses, nadie más la usa y el puerto no tiene límite de tráfico, así que los modelos grandes y el vídeo entran y salen sin coste adicional.

gpu / gddr7Mensual, máquina completa desde
Núcleos CUDA
24,064
Velocidad de memoria
1,792 GB/s
Codificadores de vídeo
4 × AV1
Potencia de la placa
600 W

Núcleos Tensor de quinta generación. Núcleos RT de cuarta generación.

¿Tienes una RTX PRO 6000 sin uso?

Pon la máquina en el marketplace de Primcast y gana un alquiler mensual de la gente que necesita esa computación.

Anúnciala en el marketplace

01Para qué sirve

Un servidor GPU de 96 GB para modelos, renderizado y vídeo

Alquilas la RTX PRO 6000 cuando el trabajo necesita mucha memoria en una sola GPU y además tiene que dibujar o codificar. Así se ve eso en la práctica.

01Capacidad

Un modelo grande en una sola GPU

Un modelo de 70 mil millones de parámetros cabe a 4 bits con espacio para su contexto, y uno de 30 mil millones cabe a 8 bits. Todo queda en un mismo espacio de direcciones, así que te ahorras el particionado y la segunda máquina.

02Vídeo

Cuatro codificadores AV1 integrados

Cuatro motores NVENC y cuatro NVDEC, todos con AV1. Puedes transcodificar muchos canales en directo por hardware y dejar libre el procesador. La A100 y la H100 no tienen ningún codificador de vídeo.

03Renderizado

Trazado de rayos con espacio para escenas grandes

Los núcleos RT de cuarta generación renderizan, y 96 GB guardan escenas y texturas que desbordarían una GPU de 48 GB. Puedes renderizar, codificar y ejecutar un modelo en la misma placa.

04Un solo inquilino

La GPU completa, en tu propio sistema

Sin perfil vGPU, sin tiempo compartido, sin otro cliente en la máquina. Algunas ofertas en la nube para esta GPU son una máquina virtual en un host compartido, así que compara igual con igual antes de comparar precios.

02Antes de pedir

Más memoria que una H100. Esto es lo que pierdes

La RTX PRO 6000 tiene más memoria que los aceleradores de centro de datos que montamos. Dos cosas la separan de ellos, y una puede decidir por ti.

Sin NVLink

Esta GPU no tiene puente NVLink. Dos de ellas en una máquina son dos grupos separados de 96 GB que hablan por la ranura PCIe, no un grupo de 192 GB. Si tu modelo necesita más de 96 GB en un mismo espacio de direcciones, mira la A100 y la H100, que se agrupan por NVLink.

GDDR7, no HBM apilada

La GDDR7 es rápida, 1,792 GB/s, más que la A100 de 40 GB y el doble que la L40S. La A100 de 80 GB sigue leyendo un poco más rápido, a 1,935 GB/s. Para servir a muchos usuarios con un tamaño de lote grande, la velocidad de lectura marca el ritmo, así que revisa esa columna si tu objetivo es el rendimiento.

Si tu pregunta es “¿cabe el modelo en una sola GPU?”, la RTX PRO 6000 responde con el mayor espacio. Si es “¿cuántos tokens por segundo para cientos de usuarios?”, un acelerador puede merecer la pena. La tabla comparativa pone la memoria y el coste mensual lado a lado.

03Especificaciones

Especificaciones de la RTX PRO 6000 Blackwell: GDDR7, núcleos Tensor y RT

Cifras de la página de producto de NVIDIA para la Workstation Edition. La Max-Q Edition es el mismo chip con los mismos 96 GB a 300 W.

RTX PRO 6000 Blackwell 96GB

Architecture

Blackwell

Card memory

96 GB GDDR7 ECC

CUDA cores

24,064

Memory bandwidth

1,792 GB/s

Board power

600 W

Card interface

PCIe Gen 5 x16

Hardware video encoders

4 NVENC, 4 NVDEC, AV1

Error-correcting memory

Yes

  • 125 TFLOPS FP32
  • 380 TFLOPS RT
  • Núcleos Tensor con FP4
  • MIG, hasta 4 instancias
GPU NVIDIA RTX PRO 6000 Blackwell, Workstation Edition
La Workstation Edition. Qué edición va en tu máquina depende del chasis; pregunta por el chat y te lo diremos antes de que pidas.

04Elegir

RTX PRO 6000 frente a H100, A100 y RTX 6000 Ada

Las GPU de gran memoria que montamos, con la memoria y el coste mensual una junto a la otra. En esta estantería la memoria y el precio no suben a la vez, y esa es la razón para leerla.

57 GPU models in the catalogue today · none holds more than 96 GB

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
A4048 GB GDDR6$499$572.47
RTX 6000 ADA48 GB GDDR6 ECC$625$698.47
A100 80GB80 GB HBM2e$899$972.47
RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECC$1,299$1,382.67
H100 80GB80 GB HBM2e$1,599$1,682.67

La RTX 6000 Ada es la GPU profesional anterior, con 48 GB de GDDR6. La RTX PRO 6000 duplica eso en silicio más nuevo. Si 48 GB bastan para tu trabajo, la Ada es la entrada más barata. Para ver todas las GPU que montamos, con el mismo sistema de precios, consulta todos los servidores GPU con precios.

05La máquina

En qué servidor va y qué enlace PCIe recibe

La RTX PRO 6000 es una GPU PCIe Gen 5. Cada máquina de abajo muestra el enlace que le da su ranura, para que veas lo que obtienes antes de elegir.

Intel Xeon Silver / Gold

RTX PRO 6000 Blackwell 96GB

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 5.

A quarter or less of the bus the card was designed for. Worth avoiding when the work crosses the slot every step, and irrelevant once the weights are resident.

AMD EPYC

RTX PRO 6000 Blackwell 96GB

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 5.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Una vez cargados los pesos en la GPU, la ranura queda casi inactiva, lo que cubre la mayoría de la inferencia, la mayoría del renderizado y toda la transcodificación. Un bucle de entrenamiento que envía un lote nuevo por la ranura en cada paso es el trabajo que lo nota. Cuéntanos qué vas a ejecutar y te indicaremos la máquina adecuada.

06Dimensionado

Qué cabe en 96 GB de memoria de GPU

Solo pesos. Deja espacio para la ventana de contexto y el runtime encima.

Weights only, rounded up. Fits means the card’s 96 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — fits14 GB — fits8 GB — fits
30-34 billion parameters68 GB — tight34 GB — fits19 GB — fits
70 billion parameters140 GB — does not fit70 GB — tight38 GB — fits

Un modelo de 70 mil millones a 8 bits carga, pero deja poco espacio para un contexto largo o un segundo usuario. A 4 bits cabe con comodidad. Para calcularlo de tu modelo a la GPU, usa la página de dimensionado de memoria para LLM.

07Precios

Alquila una RTX PRO 6000: precios con la máquina

La GPU es una línea de tu factura y el servidor es otra. Ambas salen del catálogo de pedidos que usa el checkout, así que cada precio de abajo pertenece a la máquina que tiene al lado.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX PRO 6000 Blackwell 96GBIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$1,299$1,382.67
Configure this build →
RTX PRO 6000 Blackwell 96GBAMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$1,299$1,516.59
Configure this build →

El puerto no tiene límite de tráfico en ninguna dirección y sin cargo por salida. Una dirección IPv4 y una IPv6 vienen con el servidor, pagas un mes cada vez y no hay contrato. Una configuración lleva una tarifa de instalación única, que se muestra en el pedido antes de pagar.

08Entrega y ayuda

Cuándo la recibes y quién responde

Depende de dónde esté la GPU ahora mismo. Se te dice cuál de estas opciones aplica antes de pagar.

  1. Unos 30 minutos

    Ya en rack

    Una máquina con la GPU montada está en un rack, y es tuya unos 30 minutos después de aprobarse el pedido.

  2. De 4 a 24 horas

    En nuestra estantería

    Montamos una GPU que ya tenemos en el servidor que elegiste.

  3. De 5 a 10 días laborables

    Comprada

    Pedimos la GPU a un distribuidor y luego la montamos en tu servidor.

  4. De 10 a 15 días laborables

    Por asignación

    Cuando los distribuidores racionan una GPU, te damos la fecha antes de que te comprometas.

Las preguntas van a nuestro chat. Un asistente de IA responde en segundos y puede revisar tu cuenta y tu servidor, y una persona de nuestro equipo se une cuando lo pidas. Las máquinas en rack y listas ahora mismo están en servidores instantáneos.

09Preguntas

Preguntas sobre el alquiler de una RTX PRO 6000

01¿La RTX PRO 6000 Blackwell es lo mismo que la RTX 6000 Ada?

No, aunque los nombres se parecen. La RTX 6000 Ada Generation es la GPU profesional anterior, con 48 GB de GDDR6 y ECC. La RTX PRO 6000 Blackwell, a veces buscada como RTX 6000 Pro, tiene 96 GB de GDDR7 con ECC en el chip Blackwell más reciente. Instalamos ambas, y la tabla comparativa muestra cada una con el precio de su máquina.

02¿La RTX PRO 6000 es compatible con NVLink?

No. Esta GPU no tiene conector NVLink, así que dos de ellas en un mismo servidor funcionan como dos grupos separados de 96 GB conectados por PCIe. Si necesita más de 96 GB agrupados, las A100 y H100 sí son compatibles con NVLink.

03¿Cuánto cuesta alquilar una RTX PRO 6000?

La configuración completa más económica, la GPU y el servidor juntos, cuesta $1,382.67 al mes hoy. La tabla de precios de esta página muestra cada máquina en la que se puede instalar la GPU, leída en directo del catálogo de pedidos, con un enlace para configurar cada una. No hay contrato y el puerto no tiene límite de tráfico.

04¿Debería alquilar una RTX PRO 6000 o una H100?

Alquile la RTX PRO 6000 cuando el modelo deba caber en una sola GPU, o cuando el trabajo también renderice o codifique vídeo. Alquile una H100 cuando necesite NVLink para agrupar varias GPU, o memoria HBM para servir con lotes grandes. La tabla comparativa muestra la memoria y el coste mensual de ambas.

05¿La GPU se comparte o se divide en GPU virtuales?

No. Recibe la GPU completa pasada directamente a su propio sistema operativo, en una máquina que nadie más usa: sin hipervisor, sin perfil vGPU, sin tiempo compartido. La GPU es compatible con MIG con hasta cuatro instancias, así que puede dividirla usted mismo si su trabajo lo requiere.

06¿Qué versión de controlador NVIDIA y CUDA recibiré?

Las que usted elija. El servidor se entrega con un sistema operativo limpio y acceso root, y usted instala y fija las versiones de controlador, CUDA y framework que su código necesite. Nada se actualiza a sus espaldas.

07¿Puedo tener dos GPU RTX PRO 6000 en un mismo servidor?

Sí, como configuración bajo presupuesto y no como opción de compra directa. Con hasta 600 W cada una, el chasis y su presupuesto energético deciden cuántas caben y qué edición se instala. Cuéntenos qué piensa ejecutar y le responderemos con el chasis, la cantidad y el plazo de entrega. Para configuraciones más grandes, consulte servidores multi-GPU y multinodo.

08¿En cuánto tiempo puedo tener un servidor con RTX PRO 6000?

Aproximadamente 30 minutos después de la aprobación si una máquina ya montada en rack lleva la GPU, de 4 a 24 horas si tenemos una en stock, de 5 a 10 días laborables si la compramos, y de 10 a 15 días laborables cuando está bajo asignación. Se le informa de cuál es su caso antes de pagar. Las máquinas ya montadas en rack aparecen en servidores instantáneos.

Elija su máquina y luego añada la GPU

Cada configuración RTX PRO 6000 tiene su precio indicado arriba junto con su servidor. Elija una, configúrela y el pedido mostrará el total mensual completo antes de pagar.