GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D : y por qué no es una RTX 4090

La tarjeta que instalamos es la 4090 D, la edición de exportación que NVIDIA fabricó para el mercado chino. No es una réplica ni una falsificación: es una tarjeta AD102 original con menos sombreadores y los mismos 24 GB de memoria. Si llegaste aquí buscando un servidor con la 4090, esta página te informa sobre las diferencias antes de que la compres.

24 GB GDDR6X Dos codificadores, AV1 Sin ECC

Qué significa la D

En diciembre de 2023, el Departamento de Comercio de Estados Unidos estableció un umbral de exportación que la RTX 4090 superó. NVIDIA redujo las especificaciones de una versión para cumplir con dicho umbral y la vendió en China: la RTX 4090 D. Se lanzó el 28 de diciembre de 2023 y cuenta con 14.592 núcleos CUDA frente a los 16.384 de la tarjeta completa, lo que supone aproximadamente un once por ciento menos de sombreadores.

Todo lo demás es igual. Veinticuatro gigabytes de GDDR6X en un bus de 384 bits, el mismo ancho de banda de memoria de 1008 GB/s, la misma frecuencia de reloj de 2,52 GHz, los mismos núcleos de trazado de rayos de tercera generación y núcleos tensoriales de cuarta generación, los mismos dos codificadores AV1. Nada que dependa de la capacidad o la velocidad de la memoria cambia, lo que cubre la mayoría de las tareas que se le piden a una tarjeta alquilada: los modelos que caben en 24 GB siguen cabiendo y los fotogramas que se transmiten siguen transmitiéndose.

Donde sí se nota el coste es en el rendimiento aritmético bruto en tareas que saturan los sombreadores: un renderizado largo, una ejecución de entrenamiento por lotes. Presupuesta aproximadamente una décima parte menos que una 4090 completa y no te sorprenderás. Lo decimos aquí en lugar de imprimir "RTX 4090" en la página y dejar que lo descubras por ti mismo, como hacen la mayoría de las listas.

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

La especificación, tal como se publicó

Ada Lovelace. Datos extraídos de la documentación de la serie RTX 40 de NVIDIA, citada en la fuente de esta página.

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

No

En qué es bueno y en qué no lo es.

Se trata de una tarjeta de consumo en un expositor. Esa es su principal ventaja y, a la vez, su principal limitación, y conviene dejar claras ambas.

Bueno en: aritmética por libra

Los chips GeForce son la forma más económica de obtener esta capacidad de procesamiento. El precio no incluye licencias de conducción profesionales ni márgenes de centro de datos, por lo que para trabajos donde un error implica un nuevo intento en lugar de un desastre total (renderizado por lotes, servidores de juegos, entrenamiento de aficionados, inferencia que se puede repetir), es muy difícil encontrar algo mejor.

Bueno en: vídeo, a diferencia de los aceleradores

Dos codificadores de hardware con AV1 y un decodificador. Una 4090 D transcodificará sin problemas. Las A100 y H100, más arriba en el catálogo, no pueden codificar ni un solo fotograma por hardware (no tienen codificador), así que para cualquier contenido de vídeo, esta tarjeta no es una solución de compromiso, sino la respuesta correcta.

No es bueno en: cualquier cosa que necesite más de 24 GB.

El límite es de veinticuatro gigabytes, y se alcanza antes de lo previsto: un modelo de trece mil millones de parámetros con una precisión de ocho bits encaja, el mismo modelo con dieciséis bits no, y un modelo de setenta mil millones no encaja con ninguna precisión. La tabla que aparece a continuación lo explica con exactitud.

Malo en: trabajos que no pueden tolerar un bit invertido

Sin memoria de corrección de errores ni controlador profesional certificado. Para una ejecución de varias semanas sin puntos de control, o para una carga de trabajo bajo una licencia que requiere una tarjeta profesional, la solución es una tarjeta del catálogo de estaciones de trabajo. Estas se encuentran en todo el catálogo, con precios de .

Lo que reemplazó y lo que lo reemplaza

Disponibles directamente de nuestro catálogo, en lugar de seguir la hoja de ruta de un proveedor. Los tres modelos se pueden encargar hoy mismo, con el mismo chasis, así que la pregunta no es cuál es el más nuevo, sino cuál justifica la diferencia de precio.

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

La RTX 3090 tiene los mismos 24 GB y es la opción más antigua, lenta y económica para obtenerla. Si lo que buscas es capacidad y no velocidad, consulta la página de la serie RTX 30 antes de pagar la diferencia. La RTX 5090 ofrece 32 GB y es una tarjeta PCIe Gen 5 en plataformas Gen 3 y Gen 4, así que lee la sección siguiente antes de asumir que lo más nuevo es más rápido.

¿En qué máquina va y por qué enlace llega allí?

La 4090 D es una tarjeta PCIe Gen 4. Dos de nuestras tres plataformas compatibles son Gen 3, y una es Gen 4.

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

Este es el motivo del ticket de soporte n.° 3347, donde un cliente migró a una tarjeta gráfica más reciente en una plataforma antigua y experimentó una renderización más lenta. Una vez que la escena o los pesos residen en la tarjeta, la ranura queda inactiva y su generación deja de ser relevante. La relevancia radica en que el trabajo pasa por la ranura en cada paso.

¿Qué cabe realmente en 24 GB?

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — fits
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

El otro límite es la potencia: esta tarjeta consume hasta 425 W por sí sola, lo que hace que incluir más de una en un chasis sea una configuración que recomendamos en lugar de una opción que simplemente se marca como predeterminada.

Lo que cuesta, con la máquina en la que entra

La tarjeta aparece en una línea de la factura y la máquina en otra. Ambas partes provienen de una misma lectura del catálogo de pedidos, por lo que el precio y la especificación que aparece a su lado siempre están relacionados.

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 4090DIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$372.47
Configure this build →
RTX 4090DIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$299$382.67
Configure this build →
RTX 4090DAMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$299$516.59
Configure this build →

El ancho de banda es ilimitado en ambas direcciones sin cargo de salida, se incluye una dirección IPv4, no hay contrato y el plazo predeterminado es de un mes. Para cualquier otra tarjeta que instalemos, con el mismo precio, consulte el catálogo completo, precios . Para máquinas en rack y listas hoy, /instant .

Preguntas que la gente suele hacer sobre esta tarjeta.

¿Me darán una RTX 4090 completa si la pido?

No desde esta página. La tarjeta gráfica que instalamos es la 4090 D, y así lo indica la página, en lugar de imprimir "RTX 4090" y esperar que funcione. Si su proyecto realmente requiere ese once por ciento adicional de sombreadores, díganos qué necesita y le informaremos si podemos conseguir la pieza y cuál sería el plazo de entrega, en lugar de enviar la D y hacerla pasar por una 4090.

¿La letra D afecta a la compatibilidad con CUDA, los controladores o el software?

No. Se identifica como una tarjeta GeForce Ada Lovelace, utiliza el controlador GeForce estándar y es compatible con todas las versiones de CUDA, compilaciones de frameworks y renderizadores que se ejecutan en una 4090. La diferencia radica en la cantidad de sombreadores, no en la arquitectura.

¿La tarjeta se comparte con alguien más?

No. Un inquilino por máquina física, y la tarjeta se integra directamente con tu sistema operativo: sin hipervisor, sin particiones, sin división de tiempo. Instalas y configuras tu propio controlador y versión de CUDA, y nada se actualiza automáticamente.

¿4090 D o RTX 3090, si solo me interesan los 24 GB?

Entonces, la 3090 es muy probablemente la mejor opción, y la tabla comparativa anterior muestra la diferencia. La 4090 D es significativamente más rápida y cuenta con codificación AV1, algo que la 3090 no tiene; la 3090 ofrece la misma capacidad por menos dinero cada mes. Si el modelo se ajusta a ambas opciones y las pruebas no son consecutivas, la tarjeta más antigua gana matemáticamente.

¿Cuándo puedo conseguir uno?

Depende de si la tarjeta ya está instalada, ya está en nuestro almacén o hay que comprarla; se le informará antes de pagar. /Instant muestra las máquinas preparadas y listas para usar ahora mismo.