Colossus 对 AI 以太网评估的启示

为训练集群选择以太网时，需要讨论同步流量、拥塞和可预测的作业完成情况。端口速度只是其中的一部分。

该部署实际确立了哪些内容

NVIDIA 在 2024 年 10 月的 Colossus 报告中指出，xAI 的孟菲斯训练集群使用了 SN5600 交换机和 BlueField-3 SuperNIC。对于所引用的 Grok 工作负载，NVIDIA 报告了 95% 的数据吞吐量。这些是供应商针对该系统报告的结果；该发布未提供完整的可复现协议。NVIDIA 的部署报告

有用的采购经验是，将整个网络结构作为一个协调系统来评估。避免从该报告中提取一个数字，并将其与不同的交换机型号并列比较。

围绕作业构建评估

从模型使用的集合通信模式、每个作业的大小以及并发作业的数量开始。包括一个大型训练作业、一个共享同一网络结构的较小作业，以及一个产生突发流量的工作负载。记录每次运行的软件版本和工作节点的放置情况。

比较应用团队可以解读的结果：

• 训练步骤时间的中位数和尾部延迟
• 竞争条件下的集合通信完成时间
• 在预留测试窗口内完成的工作量
• 链路降级或移除时的行为
• 定位和纠正网络故障所需的时间

这些是建议的评估指标，并非已发布的 Colossus 结果。它们提供了一种方法来发现所提议的系统是否适合买方自身的运行条件。

保持平台边界清晰可见

讨论 Spectrum-X 时，应同时明确交换机、端点、软件和支持的互连。所引用的 Colossus 配置并未确立每个 BlueField-3 变体都具有相同的行为。它也未确立后续交换机是即插即用的替代品。

例如，该案例提到了 SN5600。SN5610 的产品页面可能会链接到本文作为更广泛的 Spectrum-X 背景，但应说明所报告的部署使用了不同的型号。该案例未确立任何确切的产品订购后缀。

要求提供与提案一同提交的证据

要求提供拓扑图、端口映射、支持组件列表和测试记录。使验收工作负载具有足够的代表性，以便供应商和买方都能重新运行。如果固件更新或扩展后性能发生变化，请与该基线进行比较。

Colossus 是一个有用的参考，因为它确定了一个真实的应用和一个真实的网络结构。可信的选择过程会延续这种具体性，同时将买方的性能目标与其他人发布的结果分开。

来源核查日期：2026 年 10 月 10 日。本文讨论第三方证据或明确标注的工程场景；它不确立经销商的交付历史、当前库存或确切 SKU 的部署情况。