GPU 服务器 · RTX 30 系列

RTX 3080 独立服务器 另有四款 RTX 30 GPU，8 GB 至 24 GB

Primcast 的 RTX 3080 独立服务器是一整台物理机，NVIDIA GeForce RTX 3080 直接交给您自己的操作系统：10 GB GDDR6X 和 8,704 个 CUDA 核心，没有虚拟机，也没有邻居。如果您的工作需要更多显存，我们的服务器还可选配 RTX 3080 Ti 或 24 GB 的 RTX 3090。按月付费，无需签约。

定制您的 RTX 3080 服务器 查看全部五款及价格
geforce-rtx-30 Ampere
  • RTX 30708 GB GDDR65,888
  • RTX 3070 Ti8 GB GDDR6X6,144
  • RTX 308010 GB GDDR6X8,704
  • RTX 3080 Ti12 GB GDDR6X10,240
  • RTX 309024 GB GDDR6X10,496

五款全部：PCIe Gen 4、一个视频编码器、无 ECC 显存。

01选一款

哪款 RTX 30 系列服务器适合您的工作

从这张表的最上面开始，停在第一款显存足够加载您所需内容的 GPU。再往下的 GPU 做同样的工作更快。它们唯一增加的是容纳更大模型或场景的空间。

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 30708 GB GDDR6$139$209.93
RTX 3070 Ti8 GB GDDR6X$149$222.47
RTX 308010 GB GDDR6X$159$229.93
RTX 3080 Ti12 GB GDDR6X$199$272.47
RTX 309024 GB GDDR6X$239$309.93

我们的 RTX 3080 是 10 GB 版本

NVIDIA 生产过两款 RTX 3080。我们的是原版，拥有 10 GB GDDR6X 和 8,704 个 CUDA 核心。后来的版本有 12 GB 和 8,960 个核心，很多商家用 12 GB 来标价更便宜的 GPU。请按 10 GB 来规划您的工作。一个 130 亿参数的模型在 8 位精度下需要约 14 GB，所以两个版本都装不下。

RTX 3090 是巨大的跨越

从 RTX 3080 Ti 升级到 RTX 3090，显存翻倍，从 12 GB 到 24 GB GDDR6X。它是唯一拥有 24 GB 的 RTX 30 GPU。如果您的模型或场景需要这么多显存，这里更便宜的都跑不了。需要超过 24 GB，请看我们搭载的每一款 GPU 及价格。

02用途

人们在 RTX 3080 GPU 服务器上运行什么

这些 GPU 于 2020 年发布，我们至今仍在出租，因为大量实际工作并不需要更新的型号。对于以下四种工作，一块老 GPU 每月花费更少就能完成。

01AI

运行已经装得下的模型

部署一个 7B 模型、测试提示词或微调一个小模型。7-8B 模型在五款中的任何一款上都能以 4 位精度加载，在 RTX 3080 上以 8 位精度加载则几乎没有余量。RTX 3090 能以 8 位精度容纳一个 13B 模型，还有空间留给上下文。

02游戏

需要真正 GPU 的游戏服务器

游戏是在像这样的 GeForce GPU 上编写和测试的。如果您的游戏服务器需要渲染或推流，RTX 30 系列运行的是玩家家里同款的 GeForce 驱动。

03渲染

可以重新跑的批量渲染

Blender、Unreal 或您自己的流程，一帧接一帧。如果任务失败，您再跑一次就行，所以不必为纠错显存付费。把钱花在 CUDA 核心上更划算。

04视频

H.264 和 HEVC 编码

每块 GPU 都有一个硬件编码器和一个解码器，支持 H.264 和 HEVC。这足以应付直播频道或上传队列，而不会拖累处理器。需要 AV1，或在一台机器上跑很多频道，请看直播视频转码服务器。

03下单之前

RTX 30 系列做不到的两件事

这两点都写在 NVIDIA 对这些 GPU 的官方规格里。下单前请对照您的工作检查。

没有 AV1 编码

五款都无法在硬件上编码 AV1。NVIDIA 是从 RTX 40 系列开始加入的。如果您的流程要输出 AV1，请选择RTX 4090 D 服务器或L40S 服务器，后者有三个 AV1 编码器。

没有 ECC 显存，没有专业驱动

一个位翻转不会被察觉。对于可以检查或重跑的工作，这没问题。对于持续数周且没有检查点的训练任务，或只能在专业 GPU 上获得授权的软件，请从完整 GPU 列表的工作站系列中挑选。

04规格

RTX 3090、3080 和 3070 规格

Ampere 架构、第二代 RT 核心、第三代 Tensor 核心，五款全部支持 PCIe Gen 4。数据来自 NVIDIA 的 GeForce 对比页面。

RTX 3090

Architecture

Ampere

Card memory

24 GB GDDR6X

CUDA cores

10,496

Memory bandwidth

936 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080 Ti

Architecture

Ampere

Card memory

12 GB GDDR6X

CUDA cores

10,240

Memory bandwidth

912 GB/s

Board power

350 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3080

Architecture

Ampere

Card memory

10 GB GDDR6X

CUDA cores

8,704

Memory bandwidth

760 GB/s

Board power

320 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070 Ti

Architecture

Ampere

Card memory

8 GB GDDR6X

CUDA cores

6,144

Memory bandwidth

608 GB/s

Board power

290 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

RTX 3070

Architecture

Ampere

Card memory

8 GB GDDR6

CUDA cores

5,888

Memory bandwidth

448 GB/s

Board power

220 W

Card interface

PCIe Gen 4 x16

Hardware video encoders

1 NVENC, 1 NVDEC, no AV1 encode

Error-correcting memory

No

05模型尺寸

您的模型装得进 RTX 3080 或 RTX 3090 吗？

在 RTX 3080 的 10 GB 上，7-8B 模型能以 4 位精度装入，8 位精度则很紧张。在 RTX 3090 的 24 GB 上，13B 模型能以 8 位精度装入，30B 模型能以 4 位精度加载，留给上下文的空间都所剩无几。

RTX 3080，10 GB

Weights only, rounded up. Fits means the card’s 10 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — does not fit8 GB — tight5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — does not fit8 GB — tight
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — does not fit
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

RTX 3090，24 GB

Weights only, rounded up. Fits means the card’s 24 GB holds the weights 1.5× over — room for the KV cache, the activations and the runtime, and the only verdict the LLM sizing page recommends a card on. Tight clears 1.25× only: the model loads, and a long context or a second user runs the card out.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB — fits8 GB — fits5 GB — fits
13-14 billion parameters28 GB — does not fit14 GB — fits8 GB — fits
30-34 billion parameters68 GB — does not fit34 GB — does not fit19 GB — tight
70 billion parameters140 GB — does not fit70 GB — does not fit38 GB — does not fit

RTX 3080 Ti 介于两者之间，拥有 12 GB。RTX 3070 和 3070 Ti 有 8 GB，能以 4 位精度容纳 7-8B 模型，8 位精度则不行。想从模型出发来选？LLM 服务器尺寸计算会算出模型需要多少 GPU 显存，以及哪款 GPU 能满足。

06配套服务器

每款 RTX 30 GPU 装进哪台服务器

每款 RTX 30 GPU 都是 PCIe Gen 4 部件。Gen 4 插槽能给它完整链路。Gen 3 插槽只给一半，下面的列表显示哪台服务器用哪种插槽。

Intel Xeon E5-2600 v1/v2

RTX 3090, RTX 3080, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon E5-2600 v3/v4

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 40 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

Intel Xeon Silver / Gold

RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070 Ti, RTX 3070

Slot: PCIe 3.0, 48 lanes per socket. Card: PCIe Gen 4.

About half the bus the card was designed for. That costs a training loop streaming batches off the host; it costs an inference server or a transcoder nothing, because the weights are already on the card.

AMD EPYC

RTX 3080

Slot: PCIe 4.0, 128 lanes per socket. Card: PCIe Gen 4.

Full width. The slot is at least the generation the card was designed for, so nothing is left on the table.

对大多数 RTX 30 工作来说，插槽几乎无关紧要。一旦模型或场景加载到 GPU 上，经过插槽的数据极少。它只在训练时重要，因为每一步都要从服务器传输新批次。

07对比

RTX 3090 对比 RTX 4090 D 和 RTX 5090

RTX 3090 与晚一代的 RTX 4090 D 同样拥有 24 GB，而再晚两代的 RTX 5090 有 32 GB。这张表显示新款 GPU 的价格，每款都配最便宜的整机。

Cheapest complete machine first. Every figure read from the order catalogue when this page was served.
CardCard memoryThe cardCheapest complete machine
RTX 309024 GB GDDR6X$239$309.93
RTX 4090D24 GB GDDR6X$299$372.47
RTX 509032 GB GDDR7$399$472.47

当您需要的是每个任务的速度或 AV1 编码时，选择更新的 GPU。当您花钱买的是显存时，RTX 3090 通常就能胜任。为什么我们仍出租旧硬件解释了背后的思路。

08价格

RTX 3080 独立服务器价格，以及另外四款

GPU 是您账单上的一行，服务器是另一行。每一行都显示整机、GPU 增加的费用和每月总计，数据来自结账所用的同一份目录。

Read from the order catalogue when this page was served. The card is a separate line; the machine does not get dearer because of what is plugged into it.
CardThe machine it goes inThe cardComplete, per month
RTX 3070Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0		$139$209.93
Configure this build →
RTX 3070Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0		$139$212.47
Configure this build →
RTX 3070 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0		$149$222.47
Configure this build →
RTX 3070Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0		$139$222.67
Configure this build →
RTX 3080Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0		$159$229.93
Configure this build →
RTX 3080Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0		$159$232.47
Configure this build →
RTX 3070 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0		$149$232.67
Configure this build →
RTX 3080Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0		$159$242.67
Configure this build →
RTX 3080 TiIntel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0		$199$272.47
Configure this build →
RTX 3080 TiIntel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0		$199$282.67
Configure this build →
RTX 3090Intel Xeon E5-2600 v1/v2
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · PCIe 3.0		$239$309.93
Configure this build →
RTX 3090Intel Xeon E5-2600 v3/v4
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · PCIe 3.0		$239$312.47
Configure this build →
RTX 3090Intel Xeon Silver / Gold
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · PCIe 3.0		$239$322.67
Configure this build →
RTX 3080AMD EPYC
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps · PCIe 4.0		$159$376.59
Configure this build →
  • 端口双向不限流量，端口仅供您的机器独享。
  • 地址包含一个 IPv4 地址。
  • 期限默认按月，无需签约。
  • 帮助我们的聊天助手几秒内回复，还能查看您的账户和服务器。随时可以要求人工服务。

今天就要机器？即时服务器列出了已经上架的机型。要对比我们搭载的每一款 GPU，请看GPU 服务器，全部标价。

09常见问题

客户下单前常问的 RTX 3080 服务器问题

01你们的 RTX 3080 是 10 GB 还是 12 GB 版本？

是 10 GB 版本，即最初的 RTX 3080，拥有 8,704 个 CUDA 核心。12 GB 版本有 8,960 个核心，我们不采用。如果您需要 12 GB，RTX 3080 Ti 具备这一规格。

02选择 RTX 3080 还是 RTX 3090 服务器？

如果您的模型或场景在 10 GB 内即可容纳，请选择 RTX 3080。介于 10 到 12 GB 之间，则选择 RTX 3080 Ti。如果需要超过 12 GB，请选择 RTX 3090：它拥有 24 GB GDDR6X，是所有 RTX 30 GPU 中最大的，并且 CUDA 核心更多。两者都在上方的价格表中，均配备完整机器。

03GPU 会与其他人共享吗？

不会。您是物理机器上的唯一租户，GPU 直接连接到您自己的操作系统。没有虚拟机监控程序、没有分区、也没有时间切片。您自行安装所需的驱动程序和 CUDA 版本，未经您允许不会有任何更新。

04可以在一台服务器中安装两块 RTX 30 GPU 吗？

可以，但这是需要我们报价的定制方案，而非结账选项，因为它取决于机箱、GPU 宽度和功耗预算。在聊天中询问，我们会告知机箱型号和交付周期。两块 GPU 是两个独立的内存池：一个无法装入单块 RTX 3090 的模型必须由您的软件拆分到两块 GPU 上。

05多久能拿到 RTX 3080 服务器？

这取决于 GPU 的所在地，付款前我们会告知您。我们已有库存的 GPU 会在四到二十四小时内安装完成。需要采购的则需五到十个工作日。如需今天就开始，即时服务器列出了已上架的机器。

06如果 GPU 出现故障怎么办？

我们会更换。协议规定，自您通过电话或在线聊天报告故障起，我们有四小时的时间处理，超过该时限，您将按公布的方案获得服务积分。

07如果出现问题，谁来帮助我？

打开任意页面上的聊天窗口。我们的助手会在几秒内回复，可以查看您的账户和服务器，并在您要求时随时将您转接给我们的团队成员。您始终拥有机器的完整 root 访问权限。

为您的项目获取一台 RTX 3080 服务器

选择服务器，添加 RTX 3080 或其他四款中的任意一款，付款前即可查看每月总价。无合约限制，端口不限流量。

构建您的 RTX 3080 服务器 比较所有 GPU