Will I get a full RTX 4090 rather than a 4090 D?

Not from this page. What Primcast fits is the 4090 D, and the page says so rather than printing 'RTX 4090' and hoping. If your work genuinely needs the extra eleven per cent of shaders, say what it is and we will tell you whether the part can be sourced and what the lead time would be, rather than shipping the D and calling it a 4090.

Does the D affect CUDA, drivers or software compatibility?

No. It reports as an Ada Lovelace GeForce card, takes the ordinary GeForce driver, and every CUDA release, framework build and renderer that runs on a 4090 runs on it. The difference is a shader count, not an architecture.

Is the graphics card shared with anyone else?

No. One tenant per physical machine, and the card is passed straight through to your own operating system -- no hypervisor, no partition, no time-slicing. You install and pin your own driver and CUDA release, and nothing upgrades underneath you.

RTX 4090 D or RTX 3090, if I only care about the 24 GB?

The RTX 3090 is very likely the better buy. Both carry 24 GB, and the 3090 costs less every month. The 4090 D is meaningfully faster and adds AV1 encoding the 3090 does not have; if the model fits either way and the runs are not back to back, the older card wins on arithmetic per pound.

How soon can I have an RTX 4090 D server?

It depends on whether the card is already fitted, already on the shelf, or has to be bought in, and you are told which before you pay rather than after. Machines racked and ready right now are listed at https://primcast.com/instant.

GeForce RTX 4090 D · 24 GB GDDR6X

RTX 4090D——以及它为何不是 RTX 4090

我们选用的显卡是 4090 D，这是 NVIDIA 为中国市场生产的出口合规版本。它并非贴牌产品，也不是假货：它是真正的 AD102 显卡，只是着色器数量较少，但显存容量同样为 24GB。如果您来这里是为了寻找 4090 服务器显卡，那么本页面旨在帮助您在购买前了解其区别。

24 GB GDDR6X两个编码器，AV1无ECC

加上这台机器的成本是多少？

D 的含义

2023年12月，美国商务部设定了出口限额，RTX 4090显卡超过了这一限额。NVIDIA为了规避这一限制，推出了缩减版的RTX 4090，并在中国销售该版本：RTX 4090 D。该显卡于2023年12月28日发布，拥有14,592个CUDA核心，而完整版RTX 4090则拥有16,384个——着色器数量减少了约11%。

其他方面都和原版显卡一样。24GB GDDR6X 显存，384 位显存位宽，1008GB/s 的显存带宽，2.52GHz 的睿频频率，第三代光线追踪核心和第四代张量核心，以及两个 AV1 编码器。所有依赖于显存容量和显存速度的组件都保持不变，这几乎涵盖了租赁显卡的所有需求：24GB 显存能够处理的模型依然可以运行，帧流依然可以流畅播放。

它的性能瓶颈在于处理那些会占用大量着色器资源的任务时，例如长时间渲染或批量训练，其原始运算吞吐量会受到影响。如果预算比完整的 4090 显卡少十分之一左右，你就不会感到意外。我们在这里明确说明这一点，而不是像大多数产品介绍那样，直接在页面上写上“RTX 4090”让你自己去摸索。

Across the 56 cards in the catalogue: RTX 4090D holds 24 GB, 13 cards we fit hold more, and 11 cost more per month. Read the whole ladder on the whole catalogue, priced.

已发布的规范

艾达·洛芙莱斯。图片来自 NVIDIA 官方 RTX 40 系列文档，本页来源已注明。

RTX 4090D

Architecture

Ada Lovelace

Card memory

24 GB GDDR6X

CUDA cores

14,592

Memory bandwidth

1,008 GB/s

Board power

425 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

2 NVENC, 1 NVDEC, AV1

Error-correcting memory

它擅长什么，以及它不擅长什么。

这是一张摆在货架上的普通消费卡。这既是它的全部优势，也是它的全部局限性，这两点都值得直言不讳。

擅长：每磅的算术

GeForce芯片是获得如此强大计算能力的最经济实惠的方式。它的价格中不包含专业级显卡的溢价，也没有数据中心的利润空间，因此对于那些即使出现错误也只需重试而非导致灾难性后果的工作——例如批量渲染、游戏服务器、业余训练以及可以重复运行的推理——它几乎无可匹敌。

擅长：视频，不像加速器那样

两台硬件编码器支持 AV1，并配备解码器。4090 D 可以全天候进行转码。而更高端的 A100 和 H100 甚至无法进行硬件编码——它们根本没有编码器——因此，对于任何涉及视频的应用来说，这张卡并非妥协之选，而是正确的选择。

不擅长：任何需要超过 24 GB 内存的操作

24 GB 是容量上限，而且它比人们预想的来得更快：一个 8 位精度的 130 亿参数模型可以拟合，同样的 16 位精度模型则不行，而 700 亿参数的模型无论精度如何都无法拟合。下表对此进行了精确的说明。

不擅长：无法容忍比特翻转的工作

没有纠错内存，也没有经过认证的专业驱动程序。对于需要连续运行数周且没有检查点的作业，或者需要专业卡才能执行的工作负载，解决方案是从工作站货架上购买一张卡。这些卡在产品目录中均有销售，价格待定。

它取代了什么，以及什么又取代了它

我们并非根据供应商的路线图，而是直接从我们自己的库存中挑选产品。这三款产品现在都可以订购，而且采用相同的机箱，所以问题不在于哪款是最新的，而在于哪款的差异更值得。

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
Card	Card memory	The card	Cheapest complete machine
RTX 3090	24 GB GDDR6X	$239	$309.93
RTX 4090D	24 GB GDDR6X	$299	$372.47
RTX 5090	32 GB GDDR7	$399	$472.47

RTX 3090 拥有 24GB 显存，是较老款、速度较慢但价格更低的显卡——如果您更看重容量而非速度，请在购买前仔细阅读RTX 30 系列的介绍页面。RTX 5090 的显存提升至 32GB，并且是 PCIe Gen 5 显卡，支持 Gen 3 和 Gen 4 平台，因此在购买前请先阅读以下部分，不要想当然地认为新款显卡速度更快。

它要装进哪台机器，以及通过哪个接口连接到那里。

4090 D 是一款 PCIe Gen 4 显卡。我们三个支持该显卡的平台中，有两个是 Gen 3，一个是 Gen 4。

Intel Xeon E5-2600 v3/v4

RTX 4090D

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 4090D

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

AMD EPYC

RTX 4090D

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

这就是支持工单 #3347 背后的原因：一位客户在旧平台上升级到新显卡后，渲染速度反而变慢了。一旦场景或权重驻留在显卡上，插槽就处于空闲状态，其生成不再重要。只有当渲染任务在每个步骤中都经过插槽时，插槽的生成才至关重要。

24GB到底能装下什么？

Weights only, rounded up. A row counts as fitting when it leaves a fifth of the card’s 24 GB free for the KV cache, the activations and the runtime — which is head-room, not luxury.
Model	16-bit	8-bit	4-bit
7-8 billion parameters	16 GB — fits	8 GB — fits	5 GB — fits
13-14 billion parameters	28 GB — does not fit	14 GB — fits	8 GB — fits
30-34 billion parameters	68 GB — does not fit	34 GB — does not fit	19 GB — fits
70 billion parameters	140 GB — does not fit	70 GB — does not fit	38 GB — does not fit

另一个限制是功耗：这张显卡本身的功耗高达 425 瓦，因此，如果机箱内安装了多张这样的显卡，我们会给出报价，而不是让你勾选一个选项。

它的成本，连同机器一起投入使用。

发票上的卡片是一行，机器是另一行。以下两部分均来自同一订单目录，因此价格和旁边的规格始终相互对应。

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
Card	The machine it goes in	The card	Complete, per month
RTX 4090D	Intel Xeon E5-2600 v3/v4 Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$372.47 Configure this build →
RTX 4090D	Intel Xeon Silver / Gold Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0	$299	$382.67 Configure this build →
RTX 4090D	AMD EPYC AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0	$299	$516.59 Configure this build →

带宽双向不限量，无出口费用，包含一个 IPv4 地址，无合约，默认期限为一个月。其他所有网卡均按相同方式定价，请查阅完整产品目录了解详情。对于已安装完毕且可立即使用的机器，请点击此处/instant 。

人们实际询问的关于这张卡的问题

如果我要求的话，我能得到一块完整的 RTX 4090 显卡吗？

并非来自此页面。我们实际使用的是 4090 D，页面上也明确标明了这一点，而不是印上“RTX 4090”然后碰运气。如果您的项目确实需要额外的 11% 着色器，请告诉我们具体需求，我们会告知您是否可以找到该型号的显卡以及交货周期，而不是直接发货 D 型号却称之为 4090。

D 是否会影响 CUDA、驱动程序或软件兼容性？

不。它被识别为 Ada Lovelace GeForce 显卡，使用普通的 GeForce 驱动程序，所有能在 4090 上运行的 CUDA 版本、框架构建和渲染器都能在它上面运行。区别在于着色器数量，而不是架构。

这张卡是否与其他人共用？

不。每台物理机仅限一个租户，而且该卡直接通配到您自己的操作系统——无需虚拟机管理程序、分区或时间片轮转。您需要自行安装并锁定驱动程序和 CUDA 版本，底层系统不会进行任何升级。

如果我只关心24GB显存，那么4090D还是RTX 3090比较好？

那么3090很可能是更划算的选择，上面的阶梯图也显示了两者之间的差距。4090D速度明显更快，并且支持3090所不具备的AV1编码；3090容量相同，但每月费用更低。如果型号相同，且两次购买并非连续进行，那么从实际性能来看，老款显卡更胜一筹。

我最快什么时候可以拿到？

这取决于卡片是否已安装、是否已上架，或者是否需要进货——付款前我们会告知您具体情况。/instant 列出了目前已上架且可用的机器。