裸机显卡 · Primcast LLC · 自 2004 年起

告诉它任务是什么,它会告诉你对应的卡片。

购买GPU服务器的难点不在于购买本身,而在于如何选择合适的显卡——业内所有产品目录都是按显卡性能强弱排序,而不是根据你的实际需求。而这本产品目录则反其道而行之。只需说明你的任务是什么,需要多少显存,剩下的就是最终的解决方案,价格也一目了然。

找到这张卡片这张卡是我的吗?

每台机器仅限一个租户。该卡直接接入您的操作系统——不进行分区、不进行分时、不进行虚拟化。

长椅

两个问题。

没有任何资源预留,也没有创建账户。每张卡旁边的数字代表的是包含该卡的整个服务器——包括处理器、内存、镜像磁盘、不限流量端口和一个地址——而不是卡本身的费用。卡的份额印在下方,方便您区分哪一半的费用。

What is it for?

How much card memory?

anygigabytes or more

  • 5 GB7-8 billion parameters, 4-bit
  • 8 GB13-14 billion parameters, 4-bit
  • 19 GB30-34 billion parameters, 4-bit
  • 38 GB70 billion parameters, 4-bit

  1. 3000M2 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 240 CUDA cores$91.72a month, complete$20.79 of that is the card
  2. K3100M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 768 CUDA cores$102.52a month, complete$31.59 of that is the card
  3. M3000M4 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,280 CUDA cores$109.12a month, complete$38.19 of that is the card
  4. TESLA M68 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,536 CUDA cores$113.42a month, complete$42.49 of that is the card
  5. TESLA M608 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$119.42a month, complete$48.49 of that is the card
  6. GTX 1070M8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,048 CUDA cores$124.32a month, complete$53.39 of that is the card
  7. GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
  8. GTX 10708 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 1,920 CUDA cores$135.22a month, complete$64.29 of that is the card
  9. GTX 1070 Ti8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,432 CUDA cores$146.22a month, complete$75.29 of that is the card
  10. GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
  11. TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  12. TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
  13. RTX 20708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,304 CUDA cores$159.93a month, complete$89 of that is the card
  14. TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
  15. Instinct MI50 16GB16 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$169.93a month, complete$99 of that is the card
  16. RTX 2070 Super8 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$172.47a month, complete$99 of that is the card
  17. RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
  18. Instinct MI5016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$172.47a month, complete$99 of that is the card
  19. TESLA M602 x 8 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,096 CUDA cores$178.82a month, complete$107.89 of that is the card
  20. RTX 20808 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,994 CUDA cores$189.93a month, complete$119 of that is the card
  21. RTX 500016 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$189.93a month, complete$119 of that is the card
  22. RTX 2080 Super8 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,072 CUDA cores$199.93a month, complete$129 of that is the card
  23. TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
  24. RTX A2000 40 Mh/s6 or 12 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 40 MH/s$202.47a month, complete$129 of that is the card
  25. RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
  26. TESLA P10016 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 3,584 CUDA cores$212.47a month, complete$139 of that is the card
  27. P500016 GB GDDR5XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,560 CUDA cores$214.06a month, complete$140.59 of that is the card
  28. RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
  29. RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  30. RTX A400016 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
  31. RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
  32. TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
  33. CMP-170HX Mining GPU 164MH/s8 GB HBM2eIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 164 MH/s$259.93a month, complete$189 of that is the card
  34. RTX 407012 GB GDDR6XIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 5,888 CUDA cores$262.67a month, complete$179 of that is the card
  35. RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
  36. Tenstorrent Blackhole p100a28 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps$272.47a month, complete$199 of that is the card
  37. L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
  38. RTX A500024 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 8,192 CUDA cores$302.47a month, complete$229 of that is the card
  39. Tesla V100 32GB32 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 5,120 CUDA cores$302.47a month, complete$229 of that is the card
  40. RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
  41. RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
  42. P600024 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$320.52a month, complete$249.59 of that is the card
  43. RTX 4500 Ada Generation24 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 7,680 CUDA cores$332.67a month, complete$249 of that is the card
  44. RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
  45. RTX 600024 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$372.47a month, complete$299 of that is the card
  46. RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
  47. RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
  48. L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
  49. A4048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$572.47a month, complete$499 of that is the card
  50. Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
  51. RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
  52. RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
  53. A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
  54. A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
  55. RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
  56. H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the card

估算值来自与结算单相同的产品目录,并非报价。如果内存容量数据缺失,我们无法找到制造商公布的数据,因此卡片上会直接显示,而不是猜测——而且,一旦您调整内存容量设置,这些卡片就会自动排除,因为筛选我们没有的数据会悄悄地隐藏一些可能适合您的部件。如有需要,我们会从卡片上读取相关信息。某些部件适用于多个机箱,价格也可能不同;此处显示的价格是该卡片的最便宜方案,配置器会显示其他方案。

那份清单背后究竟隐藏着什么?

  • 56Cards we fit
  • $20.79Cheapest card, per month
  • $91.72Cheapest whole machine with one in it
  • 5Cities
  • 0Bytes counted

此页内容根据订单目录统计,而非手动输入。如果明天取走某张卡,则此条卡槽明天会变短。今天早上货架上摆放着什么则是另一个问题,答案在即时服务机上。

每个人都会问的第一个问题

这张卡是我的,还是我跟别人共用的?

你的。整张卡,整台机器,只有你一个人用。

这张卡安装在租用给某个账户的物理服务器的 PCIe 插槽中,并直接交付给您的操作系统:您自己的驱动程序、您自己的 CUDA 或 ROCm、您自己的进程。您和它之间没有虚拟机管理程序,没有 MIG 分区,没有时间片调度器来决定何时轮到您,也没有其他租户的批处理作业会在下午四点影响您的推理延迟。

机器的其余部分也完全属于您,使用权限相同——包括所有核心、所有内存、所有磁盘、根目录,以及服务器自身的 HPE iLO 或 Dell iDRAC(用于控制台、虚拟媒体和电源)。即使驱动程序导致网络中断,您仍然可以正常查看屏幕。

  • 不是分区,没有 MIG,没有 vGPU,没有分数分配。一张卡,一个租户。
  • 这不是队列。没有任何程序会抢占你的进程。当你处于空闲状态时,该卡也处于空闲状态。
  • 这不是容器,而是裸机。您可以自行加载内核模块,并锁定驱动程序版本。
  • 不按流量计费。输入权重、输出检查点、输出渲染结果。不计算字节数。

为什么上面的数字看起来是这样的

该卡是发票上的一行,而不是产品级别。

在其他任何地方,GPU 都是一个独立的层级:你租用的是“H100 实例”,而处理器、内存、硬盘以及网络等配套设施的费用都已由其他人决定。但在这里,这两项是分开计算的,需要分别支付——这就是为什么上面列表中两端的显卡可以装在同一个机箱里,你只需支付显卡之间的差价,无需支付其他任何费用。

  1. The machineIntel Xeon E5-2600 v1/v2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps$70.93
  2. The cardAnything on the shelves belowCheapest to dearest, $20.79 to $1,599$20.79
  3. The portUnmetered, both directionsNo allowance to exceed, no egress line, everincluded
  4. SetupNothingNo contract; one month is the default term

Whole machine, card in it, per month, from$91.72

And at the other end of the same list: H100 80GB in a whole machine for $1,682.67 a month — $2.31 an hour if you are comparing against something billed by the hour, with nothing added for the traffic.

配置器会将每块硬盘的价格向上取整,并在此基础上减少一两美分。较长的计费周期可享受额外折扣;定价信息汇总于一处,而旧硬件价格更低,正是这份列表底部存在的理由。

存储卡内存容量

唯一决定它是否有效的规格。

时钟频率和核心数量决定了模型的运行速度。显卡的显存容量决定了它能否运行——模型的权重要么匹配,要么不匹配;显卡少2GB显存容量并不会降低速度,而是会导致崩溃。因此,显存容量是首要考虑的因素,也是几乎没有人会在公布价格时同时公布的参数。

计算方法是将参数数量乘以每个参数的字节数。16 位权重每个占两个字节,8 位权重每个占一个字节,4 位权重每个占半个字节。量化到 4 位可以将原本无法存储模型的机器变成可以存储模型的机器,但会牺牲一些质量。

预留一些内存空间。以下数据仅包含模型权重,不包含其他任何内容。运行时间、激活值以及长上下文的键值缓存都位于同一内存中,并且缓存会随着对话中每个标记的增加而增长。权重为 38 GB 的模型在 40 GB 的存储卡上无法流畅运行。建议在此基础上再预留四分之一到一半的内存空间,或者联系我们,我们会根据您的实际运行情况进行容量规划。

Weights only. Add head-room for the runtime and the context window before choosing a card.
Model16-bit8-bit4-bit
7-8 billion parameters16 GB8 GB5 GB
13-14 billion parameters28 GB14 GB8 GB
30-34 billion parameters68 GB34 GB19 GB
70 billion parameters140 GB70 GB38 GB

卡片下面是什么?

四个底盘共用一个,它们不能互换。

每张卡都对应着目录的不同部分,并为每张卡与处理器之间建立不同的链接。最后一列之所以存在,是因为它会增加成本,而且没人会打印出来:一位客户在第三代总线上从上一代消费级卡升级到下一代,结果渲染速度变慢了,而且他比我们更早发现了原因。所以,它被写在了页面上。

Intel Xeon E5-2600 v1/v2

$70.93the machine, per month

Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps

Cards it takes
28
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
256 GB

Configure this machine →

Intel Xeon E5-2600 v3/v4

$73.47the machine, per month

Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps

Cards it takes
43
Link to the card
PCIe 3.0
Lanes
40 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

Intel Xeon Silver / Gold

$83.67the machine, per month

Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps

Cards it takes
47
Link to the card
PCIe 3.0
Lanes
48 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

AMD EPYC

$217.59the machine, per month

AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps

Cards it takes
10
Link to the card
PCIe 4.0
Lanes
128 lanes per socket
Sockets
2
Memory ceiling
1 TB

Configure this machine →

公交车一代究竟改变了什么

为新型总线设计的网卡在旧型总线上也能完美运行;只是数据传输速度不如新型总线快。这是否重要完全取决于具体应用。

  • 当数据持续地在总线上传输时,情况就变得很重要了——例如训练循环从磁盘或系统内存中流式传输数据,渲染每帧都向卡端提供场景数据,以及任何从卡内存溢出的数据。
  • 一旦权重驻留并保持不变,就无关紧要了——例如对拟合模型进行推理、视频转码以及大多数模拟操作。链接承载着请求和结果,而这些请求和结果都很小。
  • 如果您不确定,请提出。请告诉我们您的工作量,我们会坦诚地告诉您该平台是否成为瓶颈,包括在某些情况下,价格更低的卡在更好的连接上比价格更高的卡在较差的连接上更好。

随之而来的是

让这张卡可以使用的所有功能都包含在内,而且你无需额外购买任何东西。

  • 拥有根权限,驱动程序堆栈就归你所有了。

    我们会安装一个干净的操作系统,然后把密钥交给您。您可以选择驱动程序版本、CUDA 或 ROCm 版本以及框架构建版本,并将它们固定下来——这正是裸机部署的优势所在,与托管运行时截然不同,后者会在截止日期前一周自动升级。如果您希望我们在交付前安装驱动程序,请在订单中注明,我们会照办。

  • 机器自身的控制台,位于独立的网络上

    HPE iLO 或 Dell iDRAC:键盘和屏幕控制台、虚拟媒体、电源控制、硬件健康状况和硬件日志。如果显卡驱动程序导致显示器或网络出现故障,这只是使用上的不便,无需提交支持工单,因为您仍然可以观察机器的启动过程。

  • 双向不限流量端口

    没有超出限额的传输限制,任何账单上也不会出现出站流量。数据集输入、检查点输出、渲染输出、向真实用户提供的模型——所有这些都只按端口计费,不多不少。不限流量带宽是高于套餐速度的额外服务,也是它与超大规模数据中心账单之间最大的区别。

  • 您可以根据需要多次重新安装。

    操作系统镜像一键安装,无需工单即可免费重新安装,即使驱动程序测试失败也只需花费二十分钟。反向 DNS 可自行编辑,IPv6 已包含在内,更多 IPv4 地址则直接列在目录中,无需协商。

  • 在任何时间,人们

    所有套餐均包含电话、在线聊天和工单支持,故障部件将在通过电话或聊天报告后四小时内更换。支持团队会以书面形式提供响应时间和补偿方案。

  • 五个房间可以放它

    纽约、迈阿密、旧金山、阿姆斯特丹和布加勒斯特——机器所在的位置决定了你与呼叫者之间的延迟,以及它所适用的数据保护机制。数据中心指的是这些建筑物。

它出现得有多快

时间从半小时到三周不等,具体取决于卡片的位置。

不是一个数字,因为从来就不是一个数字。已安装到已上架机器上的卡片属于交接。需要购买的卡片属于采购订单。只有在您付款之前(而不是之后)告知您具体需要的是哪一种,这种做法才有意义。

  1. 约30分钟

    卡片已经在货架上的机器里了。

    所有设备均未安装,也未移动。机器已完成镜像扫描并交付。 “即时服务器”列表列出了目前摆放在那里的所有设备。

  2. 4-24小时

    我们手中的卡片会被安装到位,或者货架上的机器会被重新排列。

    本页所有内容均属常规情况。所需部件存放于我们自己的仓库;技术人员会进行安装,组装阵列并安装操作系统。货架上摆放着一台配置相近但不完全相同的机器——例如,添加内存、更换硬盘、根据您的选择重新构建阵列——这些工作都是在不将机器从机架上移开的情况下完成的。

  3. 5-10个工作日

    这张卡必须购买。

    清单上的某些产品并非我们库存现货。我们需要订购后才能生产。 “按需定制”页面提供了此类产品的完整规格说明。

  4. 10-15个工作日

    这张卡片很稀有。

    当前一代加速器采用配额制,具体日期由分销商决定,而非我们。我们会在您确认之前告知您具体使用期限,而不是之后。如果硬件是为单个客户购买的,我们会要求预付三个月的费用,因为如果客户在第二周就关闭账户,我们就无法将机器再次出租。

订单处理的每个环节都始于付款和反欺诈审核通过之后,这是我们无法做出任何承诺的环节:大多数订单会在几个小时内完成审核,但新账户的首单可能需要更长时间。我们接受信用卡、PayPal、ACH 转账和电汇付款,也接受加密货币付款——对于大额订单,加密货币付款通常是最快的。

之前问过

本页旨在解答以下十二个问题。

这些问题均来自用户在聊天和工单中的实际提问,大致按提问顺序排列。第一个问题导致我们损失了订单,因此也排在第一位。

GPU是专用的还是共享的?
专用配置。一台物理机,一个账户,显卡直接连接到您的操作系统。没有虚拟机管理程序,没有 MIG 分区,没有 vGPU 配置,没有时间片调度器,显卡上也不会有其他任何工作负载。第一天下午的测试结果就是最终结果。
我可以在一台机器里插多张卡吗?
是的,我们提供的是配置报价,而不是您勾选的选项。合适的显卡数量取决于机箱、显卡的物理宽度和功耗预算,因此需要具体的显卡型号才能给出准确的答案。询问后,我们会告知您机箱型号、显卡数量和交货周期。一些客户使用两张显卡,最常见的原因是内存而非速度——两张 48GB 的​​显卡可以支持某些型号,而一张 80GB 的显卡则不行。关于多张显卡或多台机器的问题,以及当第二张显卡变成第二台机器时会发生哪些变化,请参阅相关页面。
我应该使用哪个驱动程序和 CUDA 版本?
无论您安装哪个版本,这就是裸机的优势所在:机器出厂时已预装干净的操作系统和 root 权限,您可以将驱动程序、CUDA 或 ROCm 版本以及框架构建版本锁定到代码测试所用的版本——无需担心后续升级。如果您希望在交付前安装驱动程序,请在订单中注明并指定版本。如果您需要特定显卡支持的特定 CUDA 版本,请在付款前提出,我们会进行核实,而不是随意猜测。
如果我想要的卡片今天不在货架上怎么办?
然后我们会进行安装或订购,并在您付款前告知具体情况。我们库存的卡会在 4 到 24 小时内到货。我们需要购买的卡需要 5 到 10 个工作日,而目前仍在配额分配的新一代加速器则需要 10 到 15 个工作日。本页面特意不显示库存数量,因为卡是我们安装的部件,而不是会不断到货的商品——但如果您今天就需要一台机器,即时服务器列表会列出目前货架上实际可用的机器。
我之后可以添加或更改卡片吗?
是的,在您现有的机器上即可完成升级——无需迁移、无需重新安装、无需更改地址。只需定期上门检修机架,机器停机一段时间即可,每月费用会根据两张卡的差价而变化。内存、磁盘和端口速度的升级方式也相同。
如果卡片出现故障会发生什么?
设备将被更换,协议规定了更换时间:自您通过电话或在线聊天报告故障之日起四小时内。超过此期限,您将按照已公布的时间表获得服务补偿,而非按需申请。客服部门备有书面时间表和联系电话。
带宽是按流量计费的吗?出口流量的费用是多少?
所有流量均不计费,出站流量也完全免费,适用于我们提供的所有端口速度。没有流量限额,也不会在任何账单上列出超额费用。对于 GPU 计算而言,这通常是最大的隐性成本:例如,训练运行需要拉取数据集并推送检查点,或者推理端点需要处理实际流量,传输大量字节,而超大规模数据中心会按每 GB 的出站流量计费。不限流量带宽是指高于包含端口速度的额外服务。
与按小时租用GPU相比,这种方式有何不同?
算术决定一切。如果工作负载是突发性的,而且确实会停止——比如每月几百小时甚至更少——那么按小时计费的卡更划算。但如果超过一个月的三分之二,这种优势就荡然无存了,而且这还没算上出站流量、运行间需要持久化的存储以及作业排队等待容量的时间。这里说的“按月计费”还意味着下个月仍然使用同一台机器、同一块磁盘和同一个地址,这在生产环境中比人们想象的要重要得多。
我可以挖矿,或者运行区块链和去中心化计算节点吗?
是的。这两种工作负载在这里都很常见,一直都是如此,而且本页上的几张显卡就是为此而购买的。“挖矿服务器”页面专门介绍挖矿机箱,其中包含仅适用于挖矿的组件。
我该如何付款?需要签订合同吗?
可使用信用卡、PayPal、ACH、银行电汇或加密货币支付。无需合约:默认期限为一个月,三个月、六个月和十二个月的周期可享受折扣,续约价格不变。加密货币支付涵盖所接受的币种;对于较大金额的首单,电汇或稳定币通常比信用卡更快到账,这一点值得注意,以免欺诈检查导致项目延迟。
如果这不是我需要的,我可以退款吗?
自首次激活之日起三个自然日内,一旦故障排除完毕——退款政策的措辞与此完全一致。这正是上文提及尺寸和总线生成部分的原因:如果您第一次就购买到合适的卡,对我们双方都更划算;我们宁愿说服您购买尺寸较小的卡,也不愿让您退货。
你有最新版的卡吗?
有时候,这确实是个错误的问题。最新的组件往往是稀缺资源,而且它所适配的平台无法提供与其设计初衷相匹配的总线版本,其价格也假定你需要它的每一分性能。这里的大部分GPU工作并非训练前沿模型,而是服务于现有的成熟模型,例如视频编码、帧渲染或驱动桌面系统。而对于所有这些任务,合适的显卡通常是两代之前的版本,价格也只有现在的四分之一。请告诉我们你的具体需求。如果答案确实是最新的组件,我们会如实告知,并说明它的价格和上市时间。

接下来该去哪里?

这一页的两侧。

本页面只有一个问题:哪些卡牌适合搭配使用,以及它们的价格是多少。与此问题相关的所有内容都有各自的页面,以下页面展示了所有这些内容,顺序按照访问者实际点击的顺序排列。

还是不确定选哪张显卡?,会有之前选过这类显卡的人来回答你——即使答案是比你想要的更便宜的显卡。

For the record

Everything on this page, as figures.

Read from the order catalog when this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth reading.

Cards we fit
56 add-in cards, in 3 classes: 14 for training and inference, 23 for rendering, transcode and virtual desktops, 19 consumer.
What a card costs
From $20.79 to $1,599 a month, added to the machine. The card is a separate line; the machine does not get dearer because of what is in it.
What a whole machine with a card in it costs
From $91.72 to $1,682.67 a month, complete — processor, memory, mirrored disks, unmetered port, one IPv4, remote console. Nothing else to add.
The machine on its own
$70.93 to $217.59 a month before any card.
Cheapest machine that can train something
Instinct MI50 16GB at $169.93 a month, complete.
Dearest
H100 80GB at $1,682.67 a month, complete. That is $2.31 an hour for the whole machine, billed monthly, with no egress charge on top.
Tenancy
One tenant per physical machine. The card is passed through to the operating system, not sliced, not time-shared and not virtualized. There is no hypervisor between you and it.
Bandwidth
Unmetered, both directions, at every port speed. No transfer allowance, no egress line on any invoice — model weights, datasets and render output all move for the price of the port.
Where
5 cities: New York, Miami, San Francisco, Amsterdam, Bucharest.
Term
One month, no contract. Three, six and twelve-month cycles take up to 15% off.
Multiple cards
Yes — more than one card in one machine is a build-to-order job rather than a checkout option. Ask, and the answer names the chassis and the lead time.
Payment
Card, PayPal, ACH, wire and cryptocurrency.