Servidores GPU · Serie RTX 40

Servidor dedicado RTX 4090 y la GPU que lleva es la RTX 4090D

Nuestro servidor dedicado RTX 4090 monta la RTX 4090D, la edición que NVIDIA creó para China: los mismos 24 GB de GDDR6X y la misma velocidad de memoria, con aproximadamente un 11% menos de núcleos CUDA. Alquilas la máquina completa por meses, la GPU entera se pasa a tu propio sistema y el puerto no tiene límite de tráfico.

ad102 / 24 GBCara a cara
Especificaciones de la RTX 4090 y la RTX 4090D comparadas. Las filas marcadas con una flecha son las que difieren.
FiguraRTX 4090RTX 4090D
Núcleos CUDA16,38414,592
Núcleos Tensor512456
Memoria24 GB GDDR6X24 GB GDDR6X
Ancho de banda1,008 GB/s1,008 GB/s
Reloj boost2.52 GHz2.52 GHz
Codificadores AV122
Consumo de la placa450 W425 W
Máquina completa, al mes, desde$372.47

¿Tienes una GPU de la serie RTX 40 parada?

Publica la máquina en el marketplace de Primcast, fija tu propio precio mensual y alquílala a quien necesite esa capacidad de cómputo.

Publicarla en el marketplace

01RTX 4090D vs RTX 4090

Qué significa la D de la RTX 4090D para tu trabajo

A finales de 2023, una norma de exportación de Estados Unidos dejó a la RTX 4090 fuera del límite para su venta en China. NVIDIA respondió con la RTX 4090D, lanzada el 28 December 2023, con 14,592 núcleos CUDA donde la GPU completa tiene 16,384.

Lo que se mantiene igual

La memoria no se toca: 24 GB de GDDR6X en un bus de 384 bits a 1,008 GB/s. Tampoco el reloj boost de 2.52 GHz ni el par de codificadores AV1. Todo lo que dependa del tamaño o la velocidad de la memoria se comporta exactamente igual que en una 4090 completa: un modelo que cabe en 24 GB sigue cabiendo, y lee igual de rápido.

Los controladores y el software no notan la diferencia. Es una GPU GeForce Ada Lovelace, usa el controlador GeForce normal, y cada versión de CUDA, framework y renderizador que funciona en una 4090 funciona en ella.

A qué renuncias

Aproximadamente al 11% de los shaders y los núcleos tensor. NVIDIA situó la diferencia real en torno al 5% en juegos y aplicaciones creativas, porque los relojes y la memoria soportan gran parte de la carga. En trabajos que mantienen todos los shaders ocupados, como un render largo o un entrenamiento, calcula hasta una décima parte menos que una 4090 completa.

Te lo decimos antes de que hagas el pedido, en lugar de imprimir “RTX 4090” y dejar que lo descubras después. Si tu trabajo necesita de verdad la GPU completa, pregunta por el chat y te diremos si podemos conseguir una y cuánto tardaría.

02Para qué sirve

En qué destaca un servidor con GPU 4090, y dónde se queda corto

Es una GPU de consumo en un rack. Eso es lo que mantiene bajo el precio, y también de donde vienen sus límites.

01Cómputo por dólar

Mucho cómputo por el dinero

El silicio GeForce es una de las formas más baratas de alquilar esta cantidad de cómputo. Encaja con trabajos donde un mal resultado significa repetir, no un desastre: renderizado por lotes, servidores de juegos, ajuste fino de modelos pequeños, inferencia que puedes repetir.

02Vídeo

Codifica vídeo; las aceleradoras no

Dos codificadores por hardware con AV1, más un decodificador, así que puede transcodificar todo el día. Las A100 y H100 que están más arriba en nuestro catálogo no tienen ningún codificador de vídeo. Para cualquier cosa que incluya vídeo, esta GPU es la elección correcta, no la de compromiso. Consulta nuestros servidores de transcodificación para trabajo con canales en directo.

03Memoria

El límite son 24 GB

Un modelo de 13 mil millones de parámetros cabe a 8 bits, el mismo modelo a 16 bits no, y un modelo de 70 mil millones no cabe a ninguna precisión. La tabla de dimensionado que está más abajo es exacta al respecto.

04Ejecuciones largas

Sin memoria con corrección de errores

No hay ECC ni controlador profesional certificado. Para una ejecución que dure semanas sin puntos de control, o software cuya licencia exija una GPU profesional, mira en su lugar la L40S con 48 GB y ECC.

03Especificaciones

Especificaciones de la NVIDIA RTX 4090D

Las cifras de la GPU que instalamos, tomadas de la documentación de la serie RTX 40 de NVIDIA y de la matriz de soporte de codificación y decodificación de NVIDIA.

RTX 4090D

Architecture

Ada Lovelace

GPU memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

GPU interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

No

04Elegir

¿Servidor RTX 4090, RTX 3090 o RTX 5090?

Las tres están hoy en nuestro almacén y se montan en las mismas máquinas. Así que la pregunta no es cuál es la más nueva, sino cuál merece la pena por la diferencia para tu trabajo.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
GPUGPU memoryThe GPUCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

La RTX 3090 tiene los mismos 24 GB y es la forma más antigua y lenta de conseguirlos. Si lo que necesitas es tamaño de memoria y la velocidad importa menos, lee primero la página de servidores de la serie RTX 30. La RTX 5090 sube a 32 GB de GDDR7. Es una GPU PCIe Gen 5 que se monta en plataformas Gen 3 y Gen 4, así que lee la siguiente sección y la página de servidores RTX 5090 antes de asumir que más nueva significa más rápida aquí.

05La máquina

En qué máquina va la RTX 4090D y su enlace PCIe

La 4090D es una GPU PCIe Gen 4. Cada plataforma de abajo muestra la ranura que recibe y lo que eso significa en la práctica.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. GPU: PCIe Gen 4.

About half the bus the GPU was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the GPU.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. GPU: PCIe Gen 4.

About half the bus the GPU was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the GPU.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. GPU: PCIe Gen 4.

Full width. The slot is at least the generation the GPU was designed for, so nothing is left on the table.

Hemos visto a un cliente pasarse a una GPU más nueva en una plataforma más antigua y renderizar más lento que antes. Una vez que la escena o los pesos están en la memoria de la GPU, la ranura queda en silencio y su generación deja de importar. Importa cuando tu trabajo empuja datos a través de la ranura en cada paso. Cuéntanos qué vas a ejecutar y te indicaremos la máquina adecuada.

06Dimensionado

Qué cabe en 24 GB de memoria de GPU

Solo pesos. Deja espacio para el contexto y el runtime además.

Weights only, rounded up. Fits means the GPU’s 24 GB holds the weights 1.5× over, room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a GPU on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the GPU out of memory.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB, fits8 GB, fits5 GB, fits
13-14 billion parameters28 GB, does not fit14 GB, fits8 GB, fits
30-34 billion parameters68 GB, does not fit34 GB, does not fit19 GB, tight
70 billion parameters140 GB, does not fit70 GB, does not fit38 GB, does not fit

El otro límite es la energía. Una 4090D consume hasta 425 W, por eso más de una en una máquina es una configuración que cotizamos, no una casilla que marcas. Para plantear la cuestión al revés, de tu modelo a la GPU que necesita, usa la página de dimensionado de memoria para LLM.

07Precios

Precios del servidor RTX 4090D, con la máquina

La GPU es una línea de tu factura y el servidor es otra. Ambas proceden del catálogo de pedidos que usa la caja, así que cada precio de abajo pertenece a la máquina que tiene al lado.

Read from the order catalogue when this page was served. The GPU is a separate line; the machine does not get dearer because of what is plugged into it.
GPUThe machine it goes inThe GPUComplete, per month
RTX 4090DIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$372.47
Configure this build →
RTX 4090DIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$382.67
Configure this build →
RTX 4090DAMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$299$516.59
Configure this build →

El puerto no tiene límite de tráfico en ninguna de las dos direcciones, sin cargo por salida. Una dirección IPv4 viene con el servidor, no hay permanencia y pagas un mes cada vez. Para comparar todas las GPU que instalamos, con el mismo sistema de precios, consulta todos los servidores GPU con precios.

08Entrega y ayuda

Cuánto tardas en recibirlo y quién responde

Depende de dónde esté la GPU cuando hagas el pedido. Se te indica cuál de estas opciones se aplica antes de pagar.

  1. Unos 30 minutos

    Ya en el rack

    Una máquina con la GPU instalada está en un rack. Es tuya unos 30 minutos después de que se apruebe el pedido.

  2. De 4 a 24 horas

    En nuestro almacén

    Instalamos una GPU que ya tenemos en el servidor que elegiste.

  3. De 5 a 10 días laborables

    Comprada

    Pedimos la GPU a un distribuidor por ti y luego la instalamos en tu servidor.

Las preguntas antes o después del pedido van a nuestro chat. Un asistente de IA responde en segundos y puede consultar tu cuenta y tu servidor, y una persona de nuestro equipo se une siempre que lo pidas. Las máquinas en rack y listas ahora mismo están en servidores instantáneos.

09Preguntas

Preguntas sobre el alquiler de un servidor RTX 4090

01¿La RTX 4090D es igual que una RTX 4090?

No exactamente. Es el mismo chip AD102 con los mismos 24 GB de GDDR6X, el mismo 1,008 GB/s y el mismo reloj boost, pero con 14,592 núcleos CUDA en lugar de 16,384. NVIDIA la fabricó para China después de que una norma de exportación de Estados Unidos cubriera la 4090 completa. Es una GPU NVIDIA genuina, no una versión renombrada.

02¿Cuánto más lenta es la RTX 4090D?

NVIDIA la situó en torno al 5% en juegos y aplicaciones creativas. En trabajos que mantienen ocupados todos los shaders, la diferencia puede alcanzar el 11% de diferencia en el número de núcleos. Todo lo que esté limitado por el tamaño o la velocidad de la memoria funciona igual que en una 4090 completa.

03¿Puedo optar por una RTX 4090 completa?

No desde esta página. Lo que instalamos es la 4090D, y lo decimos desde el principio. Si tu trabajo realmente necesita los shaders adicionales, cuéntanos por chat qué vas a ejecutar y te diremos si podemos conseguir una 4090 completa y cuánto tardaría.

04¿La 4090D funciona con CUDA, PyTorch y los controladores normales?

Sí. Se identifica como una GPU GeForce Ada Lovelace y acepta el controlador GeForce estándar. Cada versión de CUDA, compilación de framework y renderizador que funciona en una 4090 funciona en ella. La diferencia es el número de núcleos, no la arquitectura.

05¿La GPU se comparte con alguien más?

No. Obtienes la GPU completa en una máquina que nadie más usa, pasada directamente a tu propio sistema operativo. No hay hipervisor, ni división vGPU, ni tiempo compartido. Instalas y fijas tu propio controlador y versión de CUDA, y nada se actualiza a tus espaldas.

06¿Debería alquilar una RTX 4090D o una RTX 3090 para 24 GB?

Si el tamaño de la memoria es todo lo que necesitas, la RTX 3090 suele ser la mejor compra: los mismos 24 GB, más antigua y normalmente más barata al mes, como muestra la tabla comparativa. La 4090D es claramente más rápida y añade codificación AV1, de la que carece la 3090. Elígela cuando tus ejecuciones sean consecutivas o trabajes con vídeo.

07¿Puedo poner dos GPU RTX 4090D en un servidor?

Sí, como configuración presupuestada en lugar de una opción de pago. Cada una consume hasta 425 W y no hay NVLink, por lo que dos de ellas son dos grupos separados de 24 GB. Cuéntanos qué planeas ejecutar y te responderemos con la máquina, o consulta servidores multi-GPU.

08¿Cuánto tardaré en tener un servidor dedicado RTX 4090?

Aproximadamente 30 minutos después de la aprobación si una máquina en rack ya lleva la GPU, de 4 a 24 horas si tenemos una en stock, y de 5 a 10 días laborables si la compramos. Se te indica cuál aplica antes de pagar. Las máquinas en rack aparecen en servidores instantáneos.

Elige tu configuración RTX 4090D y consulta el precio completo

Cada configuración tiene su precio arriba con su servidor. Elige una, configúrala y el pedido mostrará tu total mensual antes de pagar.