数位人
菜单
选型与交付 · 扩展效率 · 价格 2026-09-28

多节点扩展不是线性:GPU 集群扩展效率怎么算

加卡不等于等比例提速:扩展效率 = 多卡实际吞吐 ÷(单卡吞吐 × 卡数),低于 100% 且随卡数递减(2026-09-28 口径)。

三条适用条件(含什么情况下不适用)

  1. 多机大模型训练 → 必须先测扩展效率再加卡。新增成本要折算到有效吞吐上比较,参照 H100 一年期 9.3 万元/台/月(32 台,IB 组网,2026-09-28 确认)。不适用:单机就能装下且跑得完的任务,扩节点只会拉低效率,见 单机 vs 多机。
  2. 并行策略已定 → 效率曲线可复现。同一模型、同一并行方式、同一网络条件下才有可比性。不适用:换模型或改切分方式后,旧曲线不能直接用。
  3. 互联先达标 → 再谈卡数。H200 当期口径为 11 月到货约 128 台、无 NVLink(2026-10-11 确认),对互联敏感的任务要选对型号,见 NVLink 与 IB。不适用:不跑跨节点并行的推理服务,不需要追高互联。

五列表:扩展效率要盯的指标

指标含义怎么测该要的凭证当期参照
线性扩展卡数翻倍、吞吐翻倍作为上限参照,不当作目标单卡基准数据理论值,实际低于 100%
扩展效率多卡实际吞吐 ÷(单卡吞吐×卡数)同模型同并行策略逐档加卡分档效率曲线随卡数递减
通信占比花在同步与传输上的时间比例采样分析训练日志日志与拆分报告越高越受限
有效算力成本台月价 ÷ 扩展效率用实测效率回算同口径报价单H100 一年期 9.3 万元/台/月(32 台,2026-09-28)
网络条件互联带宽与延迟实测带宽与收敛曲线组网方式与带宽报告见 多节点带宽

含税口径:报价是否含税以书面报价单为准,可开增值税专用发票。

扩展效率为通用工程口径,实际以模型、并行策略与网络条件为准;金额仅引用事实核已登记档位(确认日期 2026-09-28)。

四个买方问题

为什么加卡后速度没按比例提升?

结论:节点间通信开销随规模增长,同步、梯度聚合与数据传输吃掉一部分收益,所以效率低于 100% 且递减。该要的凭证:分档效率曲线与训练日志拆分,见 利用率与成本。

扩展效率多少才值得继续扩?

结论:没有统一阈值,把台月价除以效率得到有效算力成本,再与新增收益比;效率低到成本反超时就该停。该要的凭证:有效算力成本测算表,见 集群成本拆分。

网络为什么关键?

结论:多节点训练靠高速互联传梯度与参数,带宽或延迟不足就成了瓶颈,加卡等于加等待。该要的凭证:组网方式与带宽实测报告,见 NVLink 与 IB。

该扩卡还是先优化通信?

结论:先看通信占比;占比高时先换互联方式或调并行策略,占比低且单卡仍有边际收益才加卡。该要的凭证:通信占比采样与优化前后对比。

反例:这三种会亏

价格确认日期 2026-09-28,货源确认日期 2026-10-11。本页最后更新 2026-10-17;扩展效率以当次实测与书面确认为准。

下一步

告诉我们模型规模、并行策略与目标卡数,我们给出组网、卡数与租期口径。提交 GPU 租赁需求,卡时与台月口径见 计费单位。

提交 GPU 租赁需求 组网口径 集群成本拆分

组网与卡数口径以当次书面确认为准。电话 18601021890 · 18911222965 微信 66212664

最后更新: (价格与货源以页面顶部标注的确认日期为准)