多卡多节点 · Primcast LLC · 自 2004 年起
单机单卡配置的问题已成定局，GPU页面上会逐张标价。而这里讨论的是：同一机箱内安装第二张显卡，或者在第一台机器旁边安装第二台机器。这两种情况听起来像是同一个选择，但实际上截然相反——这里提到的平台虽然能为显卡提供最多的通道，但网络带宽上限最低，占用的机箱也最少。没有人会公布自己产品目录中的这类信息。详情请见下表。
每台机器都是一个租户，每张卡都传递到你自己的操作系统，节点之间不会有任何字节的传输。
登记册
本页面内容是从订单目录中读取的，而非手动输入。今天早上货架上摆放的是什么是另一个问题，答案就在即时服务中。
两个不同的问题
人们来到这里时，已经决定“我需要更多”，但却没有决定需要更多什么。两种答案的成本不同，提供方式不同，受到的限制也不同，因此在继续阅读下一行之前，明确自己的需求是十分必要的。
一台机器可存入更多卡片
您的显卡内存或吞吐量不足，而机器的其他方面都正常。这是我们提供的定制配置报价，而不是您在结账时勾选的选项，因为显卡的安装数量取决于显卡的物理宽度和机箱的功率预算——这两个因素并未列在产品目录中，我们也不会妄加猜测。
决定因素是显卡本身，而不是平台。询问时请提供具体部件名称，回复会说明机箱、数量和交货周期。
人们期望却往往忽略的一点是：两张显卡并非一张更大的显卡。只有当你的程序能够将模型拆分到两张显卡上运行时，它们的内存才能真正叠加——例如张量并行或流水线并行，几乎所有主流运行时都支持这种并行处理方式，但这会降低两张显卡之间的数据传输吞吐量。对于已经包含多个独立任务的工作来说，两张显卡仅仅是机器性能翻倍，无需任何额外操作。
旁边还有更多机器
你的机器性能已经达到极限，而不是显卡性能不足：插槽用完了，内存用完了，也没有地方可以运行下一个任务了。在以下列出的最佳平台上，性能极限是2 sockets and 1 TB ，而如果超过了这两个平台，解决办法是换一台服务器，而不是升级到更大的服务器。
决定因素是：房间和端口。两台需要通信的机器必须位于同一栋楼内，连接它们的是每台机器上的端口——每个机器都需要单独购买一个端口，因此四个节点下的网络架构需要四个端口。
人们期望却得不到的是：这里没有集群产品，也没有最低节点数量限制。每台机器都是单独订购、计费、升级和更换的，因此本页面没有列出集群价格——一个集群包含n 张发票。
交易
我们为每个平台都配备了显卡，而这些显卡所依据的维度决定的是集群而非单台机器。请结合中间两列阅读，本页的全部论点都包含在其中：它们朝着相反的方向发展。总线世代与GPU页面发布的数据相同，均来自同一张表格，因此这两个页面在链接方面不存在分歧。
| Platform | Lanes to the card | Network ceiling | Sockets | Memory ceiling | Rooms |
|---|---|---|---|---|---|
| Intel Xeon Silver / Gold | 48 lanes per socketPCIe 3.0 | 100 Gbps1 Gbps included | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v3/v4 | 40 lanes per socketPCIe 3.0 | 40 Gbps1 Gbps included | 2 | 1 TB | 5 |
| Intel Xeon E5-2600 v1/v2 | 40 lanes per socketPCIe 3.0 | 20 Gbps1 Gbps included | 2 | 256 GB | 3 |
| AMD EPYC | 128 lanes per socketPCIe 4.0 | 20 Gbps1 Gbps included | 2 | 1 TB | 2 |
这些服务器分别配备哪款显卡，以及每款显卡每月增加多少成本，这些都是GPU专用服务器——我们为每台服务器配备的显卡都根据其所属的服务器进行定价。本页面特意不列出任何显卡的价格：这部分成本由另一个页面负责。
它们之间的联系是什么？
端口是单个服务器的属性。四台机器以给定的速度运行，每月需要消耗四倍的速度，而这正是让原本预算充足的集群变得捉襟见肘的关键所在。下面是已经计算好的乘法表，因为如果一个关于多台机器的页面却让用户自己计算，那就没有达到预期目的。
| Port | One machine | Two | Four | Offered on |
|---|---|---|---|---|
| 1 Gbps | included | included | included | every platform |
| 2 Gbps | $189 | $378 | $756 | every platform |
| 3 Gbps | $299 | $598 | $1,196 | every platform |
| 5 Gbps | $459 | $918 | $1,836 | every platform |
| 10 Gbps | $529 | $1,058 | $2,116 | every platform |
| 20 Gbps | $1,629 | $3,258 | $6,516 | every platform |
| 40 Gbps | $2,799 | $5,598 | $11,196 | 2 of 4 |
| 100 Gbps | $3,999 | $7,998 | $15,996 | 1 of 4 |
我们的产品目录中除了机器间的以太网端口之外，没有其他产品。我们没有列出 InfiniBand 架构，也没有列出卡对卡桥接器，本页面也不会通过含糊其辞的方式暗示有此类产品。如果您的配置需要这些产品，请在下单前咨询，而不是下单后：我们会提供报价，而且答案可能是否定的。这比一个让人误以为可以购买的页面更有价值。
以上所有速度均不限速，双向传输均不设流量限制，且任何账单上均不包含出站流量费用——因此，节点间传输的任何流量都是免费的，而这部分流量通常是需要计费的。不限速带宽是指单个端口在单台机器上的带宽。
它能存在的地方
需要相互通信的机器都位于同一栋楼内，而且我们各个房间的平台也不尽相同。先选定平台，你可能会发现你需要的平台所在的房间并没有。这与其他所有设备一样，都来自同一个目录，因此，一条新线路抵达新城市后，会单独出现在这里。
数据中心涵盖了建筑物的实际位置、连接方式以及内部其他用户——这五点一应俱全。我们两个城市之间的延迟是一个真实存在的数值，而非营销噱头。我们的技术支持团队会根据您的要求测量您所选城市之间的延迟，而无需您自行从地图上猜测。
它是如何被引用的，以及它出现得有多快。
这种类型的组装需要多台机器，而且通常需要多个非现货部件，因此，诚实地公布的不是交付承诺，而是预计的完成日期——就像按订单组装和 GPU 页面使用的情况一样，用同样的话来说。
所有设备均未安装，也未移动。即时服务器列表列出了当前存在的设备，对于普通节点集群而言，建议首先查看此列表。
通常情况下，技术人员会为每台机器并行安装卡、组装阵列并安装操作系统，而不是一台接一台地进行。
规格说明中的某些部件我们没有现货。我们需要订购后再进行组装。这是多卡机箱中最常见的一种，因为机箱通常是核心部件，而不是显卡本身。
当前一代加速器采用按需分配模式，具体日期由分销商决定，而非我们。我们会在您确认使用前告知您具体使用期限，而不是事后。如果硬件是为单个客户采购的，我们会要求预付三个月的费用，因为如果客户在第二周就关闭账户，我们将无法再次出租这台机器。
每一阶段的流程都始于订单完成支付和反欺诈审核，这是我们无法保证完成时间的唯一环节——大多数订单会在几个小时内完成审核，但新账户的首笔大额订单可能需要更长时间。对于这种规模的订单，电汇或稳定币通常比信用卡支付更快到账，这一点值得注意，以免反欺诈审核延误机架访问。
用一句话描述多节点或多卡架构比填写表单更快。——节点数量、是否进行任务拆分、需要与哪些组件通信——之前有过类似经验的人就会回答，即使答案是单台机器就能完成。
接下来该去哪里？
本页仅解答一个问题：多张卡片和多台机器会是什么样子。所有相关内容都有各自的页面，本页展示的就是所有这些内容。
For the record
Read from the order catalogue when this page was served. Card prices are deliberately not among them — GPU dedicated servers holds every one, against the exact machine each figure belongs to.
