多节点扩展不是线性:GPU 集群扩展效率怎么算
加卡不等于等比例提速:扩展效率 = 多卡实际吞吐 ÷(单卡吞吐 × 卡数),低于 100% 且随卡数递减(2026-09-28 口径)。
三条适用条件(含什么情况下不适用)
- 多机大模型训练 → 必须先测扩展效率再加卡。新增成本要折算到有效吞吐上比较,参照 H100 一年期 9.3 万元/台/月(32 台,IB 组网,2026-09-28 确认)。不适用:单机就能装下且跑得完的任务,扩节点只会拉低效率,见 单机 vs 多机。
- 并行策略已定 → 效率曲线可复现。同一模型、同一并行方式、同一网络条件下才有可比性。不适用:换模型或改切分方式后,旧曲线不能直接用。
- 互联先达标 → 再谈卡数。H200 当期口径为 11 月到货约 128 台、无 NVLink(2026-10-11 确认),对互联敏感的任务要选对型号,见 NVLink 与 IB。不适用:不跑跨节点并行的推理服务,不需要追高互联。
五列表:扩展效率要盯的指标
| 指标 | 含义 | 怎么测 | 该要的凭证 | 当期参照 |
|---|---|---|---|---|
| 线性扩展 | 卡数翻倍、吞吐翻倍 | 作为上限参照,不当作目标 | 单卡基准数据 | 理论值,实际低于 100% |
| 扩展效率 | 多卡实际吞吐 ÷(单卡吞吐×卡数) | 同模型同并行策略逐档加卡 | 分档效率曲线 | 随卡数递减 |
| 通信占比 | 花在同步与传输上的时间比例 | 采样分析训练日志 | 日志与拆分报告 | 越高越受限 |
| 有效算力成本 | 台月价 ÷ 扩展效率 | 用实测效率回算 | 同口径报价单 | H100 一年期 9.3 万元/台/月(32 台,2026-09-28) |
| 网络条件 | 互联带宽与延迟 | 实测带宽与收敛曲线 | 组网方式与带宽报告 | 见 多节点带宽 |
含税口径:报价是否含税以书面报价单为准,可开增值税专用发票。
扩展效率为通用工程口径,实际以模型、并行策略与网络条件为准;金额仅引用事实核已登记档位(确认日期 2026-09-28)。
四个买方问题
为什么加卡后速度没按比例提升?
结论:节点间通信开销随规模增长,同步、梯度聚合与数据传输吃掉一部分收益,所以效率低于 100% 且递减。该要的凭证:分档效率曲线与训练日志拆分,见 利用率与成本。
扩展效率多少才值得继续扩?
结论:没有统一阈值,把台月价除以效率得到有效算力成本,再与新增收益比;效率低到成本反超时就该停。该要的凭证:有效算力成本测算表,见 集群成本拆分。
网络为什么关键?
结论:多节点训练靠高速互联传梯度与参数,带宽或延迟不足就成了瓶颈,加卡等于加等待。该要的凭证:组网方式与带宽实测报告,见 NVLink 与 IB。
该扩卡还是先优化通信?
结论:先看通信占比;占比高时先换互联方式或调并行策略,占比低且单卡仍有边际收益才加卡。该要的凭证:通信占比采样与优化前后对比。
反例:这三种会亏
- 按卡数乘算力做预算:忽略效率递减,实际吞吐只有一小部分,单位成本远高于 9.3 万元/台/月 的名义值。
- 互联不达标就先加卡:带宽成瓶颈,卡越多等待越久,见 多节点带宽。
- 把推理服务当训练任务扩节点:推理不跑跨节点梯度同步,盲目扩节点只是增加闲置,见 单机 vs 多机。
价格确认日期 2026-09-28,货源确认日期 2026-10-11。本页最后更新 2026-10-17;扩展效率以当次实测与书面确认为准。
下一步
告诉我们模型规模、并行策略与目标卡数,我们给出组网、卡数与租期口径。提交 GPU 租赁需求,卡时与台月口径见 计费单位。
组网与卡数口径以当次书面确认为准。电话 18601021890 · 18911222965 微信 66212664
