Noventa y seis gigabytes de GDDR7 con corrección de errores en una sola tarjeta de expansión, dentro de una máquina física completa sin nadie más. Ninguna tarjeta que instalamos tiene más — ni siquiera los aceleradores. Lo que cedes para obtener esa capacidad es velocidad de lectura de memoria y NVLink, y esta página lo dice antes que cualquier otra cosa.
Across the 57 cards in the catalogue: RTX PRO 6000 Blackwell 96GB holds 96 GB, no card we fit holds more, and one costs more per month. Read the whole ladder on the whole catalogue, priced.
| Card | Card memory | The card | Cheapest complete machine |
|---|---|---|---|
| A40 | 48 GB GDDR6 | $499 | $572.47 |
| RTX 6000 ADA | 48 GB GDDR6 ECC | $625 | $698.47 |
| A100 80GB | 80 GB HBM2e | $899 | $972.47 |
| RTX PRO 6000 Blackwell 96GB | 96 GB GDDR7 ECC | $1,299 | $1,382.67 |
| H100 80GB | 80 GB HBM2e | $1,599 | $1,682.67 |
Blackwell, núcleos Tensor de quinta generación, núcleos RT de cuarta generación. Cifras de la propia página de producto de NVIDIA para la Workstation Edition, citadas en el código fuente de esta página.
Blackwell
96 GB GDDR7 ECC
24,064
1,792 GB/s
600 W
PCIe Gen 5 x16
4 NVENC, 4 NVDEC, AV1
Yes
La versión honesta. Una tarjeta tan cara es la tarjeta equivocada más a menudo de lo que es la correcta, y los cuatro párrafos de abajo son los que lo deciden.
Esta tarjeta es una pieza PCIe Gen 5 y toda plataforma que ejecutamos es Gen 3 o Gen 4, así que nunca recibe el bus completo para el que fue diseñada. Eso importa para algunos trabajos y para otros no importa en absoluto, y la diferencia vale más que el silencio.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB — fits | 8 GB — fits | 5 GB — fits |
| 13-14 billion parameters | 28 GB — fits | 14 GB — fits | 8 GB — fits |
| 30-34 billion parameters | 68 GB — tight | 34 GB — fits | 19 GB — fits |
| 70 billion parameters | 140 GB — does not fit | 70 GB — tight | 38 GB — fits |
La tarjeta es una línea separada en la factura y la máquina es otra. Las dos mitades de abajo provienen de una sola lectura del catálogo de pedidos, de modo que el precio y la especificación que lo acompaña siempre se corresponden.
| Card | The machine it goes in | The card | Complete, per month |
|---|---|---|---|
| RTX PRO 6000 Blackwell 96GB | Intel Xeon Silver / Gold | $1,299 | $1,382.67 Configure this build → |
| RTX PRO 6000 Blackwell 96GB | AMD EPYC | $1,299 | $1,516.59 Configure this build → |