RTX 3090 · 3080 Ti · 3080 · 3070 Ti · 3070

RTX 30 系列 — 五张卡,8 GB 到 24 GB

2020 年的 Ampere 消费级芯片,至今仍在机架上、仍在出租,因为它在真正擅长的领域无可替代:目录中每英镑能买到的算力之王。唯一值得写一页的问题是五张里选哪张,而诚实的答案通常归结为一个数字 — 你需要多少显存。

8、10、12 和 24 GB 无 ECC 单编码器,无 AV1

把你的 GPU 变成每月被动收入

有闲置的服务器或台式机 GPU 配置?今天就上架到 Primcast 市场,从需要生产级算力的 AI 团队、开发者和企业那里赚取稳定的月租。

前往市场

五张里选哪张

从最便宜的开始。往下读,直到显存列满足你的需求,然后停下 — 它上面的卡在同一工作上更快,但并不能做不同的事。

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

那张表中间的陷阱

我们的 RTX 3080 是原版 10 GB 卡,拥有 8,704 个 CUDA 核心。NVIDIA 后来推出了 12 GB 版本,核心数为 8,960,而许多其他地方的挂牌把 12 GB 的数字标在更便宜的卡旁边。十 GB 不是十二 GB:它决定了一个 130 亿参数模型能否以 8 位精度装入。如果你在对照别处看到的数字来选型,请以我们的为准。

另一个要注意的是从 3080 Ti 到 3090 的跨越。这是阶梯上最大的容量跳跃 — 从 12 GB 到 24 GB — 也是五张卡中唯一超过 24 GB 的。如果你需要这个容量,本页更便宜的选择都不行,替代方案在完整目录(含价格)里。

规格,按 NVIDIA 官方公布

第二代光线追踪核心、第三代张量核心、全线 PCIe Gen 4。数据来自 NVIDIA 自家的 GeForce 对比页面,本页源码中已注明出处。

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

它们擅长什么,不擅长什么

这些卡已经六年了,我们还没有退役它们,因为对于大量实际工作而言,它们仍然是正确的选择,而非妥协。

擅长:廉价大容量

RTX 3090 拥有与两代之后的 RTX 4090 D 相同的 24 GB 显存,每月花费却更低。当你买的是容量、而墙钟速度不是硬约束时,老卡就是更划算的选择。

擅长:游戏服务器和批处理工作

消费级芯片正是消费级软件编写和测试所针对的对象。游戏服务器、批量渲染、业余微调、可以重跑的推理 — 任何出错只是重试而非灾难的场景 — 在这里以专业级货架价格的一小部分运行。

不擅长:现代视频管线

每张卡只有一个编码器和一个解码器,五张卡都不支持 AV1 编码 — AV1 编码要到 RTX 40 系列才出现。如果你的管线是 AV1,这一代无法硬件完成,答案是 RTX 4090 D 或 L40S。

不擅长:长时间无人值守运行

它们都没有纠错内存,也没有认证的专业驱动。对于以周为单位、无检查点的运行,或仅授权给专业卡的软件,请改选工作站货架上的卡。

它们装进哪台机器,以及在那里获得什么链路

每张 RTX 30 卡都是 PCIe Gen 4 部件。搭载它们的四个平台中,三个是 Gen 3,一个是 Gen 4。

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

对于这一代,插槽很少起决定作用:一张能装下自己场景或自己权重的卡,一旦加载完成就几乎不碰总线,而且这些卡也不是任何人会向其传输海量训练批次的对象。这里记录它是因为事实如此,也因为我们为每张卡都公布这一点,而不是因为它应该改变你的决定。

实际能装下什么:阶梯顶端的 24 GB 卡

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

沿阶梯每下一级,就把那张表往下读一行。3080 Ti 有 12 GB,3080 有 10 GB,3070 Ti 和 3070 各有 8 GB — 所以一个 70 到 80 亿参数的模型以 8 位精度计算,大致就是本页底端的极限,更大的都需要 3090 或完全不同的货架。

那张表回答的是“什么能装进这张卡”。反过来问 — 一个模型需要多少显存、哪张卡能装下 — 则有专门的页面。

它们连同所装整机的价格

卡是发票上的一行,整机是另一行。下面两半都来自订单目录的同一次读取,因此价格和旁边的规格始终彼此对应。

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0
$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0
$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0
$159$376.59
Configure this build →

带宽双向不限量、无出口费用,包含一个 IPv4 地址,无合约,默认租期一个月。关于我们装配的其他所有卡(按同样方式计价),请阅读完整目录(含价格)。关于今天即可上架的机器,见 /instant。关于我们为何仍出租别人都已退役的硬件,见 /value。

人们对这一代真正会问的问题

你们的 RTX 3080 是 10 GB 版还是 12 GB 版?

10 GB 版,8,704 个 CUDA 核心 — 首发原版。12 GB 修订版有 8,960 个核心,我们不装配。这比两个 GB 的差距更重要,因为一个 130 亿参数模型以 8 位精度需要约 14 GB,两张卡都装不下,而更小的模型两张卡都绰绰有余。

为什么要租一张 2020 年的卡?

因为大多数 GPU 工作并不是训练前沿模型。它是运行已经装得下的服务、编码视频、渲染帧或跑游戏服务器,而对于所有这些,合适的卡往往要往回退两代,花费只是零头。RTX 3090 拥有与两代之后的卡相同的 24 GB 显存。这就是全部论点,/value 有更长的版本。

能在一台机器里装两张吗?

这是我们报价的定制方案,而不是一个勾选框,因为数量取决于机箱、卡的物理宽度和功率预算。询问后,回复会写明机箱、数量和交付周期。注意两张卡是两个独立的内存池:一个装不进单张 3090 的模型,装进两张也不会装下,除非刻意将其拆分。

这张卡会与别人共享吗?

不会。每台物理机只有一个租户,卡直接直通到你自己的操作系统 — 无虚拟机监控程序、无分区、无时间片。你自行安装并锁定自己的驱动和 CUDA 版本,底层不会有任何升级。

多久能拿到?

取决于卡是已经装好、已经在我们的货架上,还是需要采购 — 付款前会告知你是哪种情况。/instant 列出了此刻已上架就绪的机器。