NVLink 拓扑怎么影响训练速度:全互联与半互联差多少
结论:拓扑决定哪些并行策略跑得动,差多少必须扫卡数实测才能定(现货约 16 台,货源 2026-10-11)。
拓扑不像算力那样直接换成秒数。它影响的是卡与卡之间每步要花多久把中间结果传完:传得快,加卡就能涨吞吐;传得慢,加到一定数量就不再涨。所谓“差多少”,本质上是“你的模型在哪张卡数上停止加速”。
当期口径下可核的是:H100 一年期 9.3 万元/台/月(32 台,IB 组网)、三年期 8.5–8.9 万元/台/月(64 台,价格确认 2026-09-28);H200 11 月到货约 128 台且无 NVLink,另有 3 台现货可询价(货源确认 2026-10-11)。
事实核对:北京数位人科技有限公司 · 价格确认 2026-09-28 · 货源确认 2026-10-11 · 以当日书面确认为准。
适用条件:什么时候拓扑是真正的决策点
- 适用一条:要跑多机多卡训练。单机单卡时拓扑基本不参与决策。
- 适用二条:模型大到必须切分。切分越细,每步通信越密。
- 适用三条:对总机时敏感。训练成本按机时结算时,拓扑直接换算成钱。
不适用:推理服务与小模型微调,任务本身不靠跨卡高频交换,拓扑的影响小到不值得为它付溢价。
四类策略的拓扑敏感度
| 并行策略 | 对拓扑的敏感度 | 半互联下的典型表现 | 要什么凭证 |
|---|---|---|---|
| 数据并行 | 低,只在梯度同步时交换 | 卡数少时影响不大 | 多卡效率曲线 |
| 张量并行 | 高,每层都要交换中间结果 | 超过一定卡数就不涨吞吐 | 扫卡数实测数据 |
| 流水并行 | 中等,受微批次节奏影响 | 气泡变大,总机时拉长 | 流水效率与气泡占比 |
| 专家并行 | 高,路由需要频繁交换 | 波动大,调度难度上升 | 路由开销与负载均衡数据 |
| 单卡推理 | 极低 | 几乎无差别 | 单卡延迟实测 |
本页不提供各拓扑的带宽数值与互联形态的具体倍数(不在本期事实核范围内);请以厂商规格书与实测结果为凭。
四个必须问清的问题
全互联和半互联到底差多少?
结论:没有通用倍数,差多少取决于你的并行策略与模型大小。同样一套拓扑,数据并行可能只差一点,张量并行可能差出数倍。你要的凭证:你自己的模型在两种拓扑上的总机时对比。
什么并行策略最吃拓扑?
结论:每步都要交换大量中间结果的策略,也就是张量并行与专家并行。数据并行只在梯度同步时说话,敏感度低得多。你要的凭证:并行策略与每步通信量的书面说明。
没 NVLink 的机型能用来训练吗?
结论:能,但要选对任务。当期口径下 H200 为无 NVLink 配置(11 月到货约 128 台,另有 3 台现货可询价,货源 2026-10-11),适合单卡或单机内低通信密度的作业,不适合高频交换的大规模张量并行。你要的凭证:机型拓扑说明与你的并行方案匹配性确认。
怎么实测拓扑影响?
结论:固定模型与全局批次,只改卡数,看吞吐在哪一张卡数上停止增长。那个拐点就是拓扑开始卡住你的位置。你要的凭证:1/2/4/8 卡下的吞吐与效率数据。
反例:这几种想法会让你选错拓扑
- 把拓扑当算力。拓扑不提高单卡速度,只决定加卡能不能涨。
- 拿宣传图上的带宽数字推自己吞吐。推出来的数字没人能复核。
- 以为靠软件能补回拓扑差距。通信开销真实存在,改代码也消化不了。
- 拓扑定了再想改。整机已上架,拓扑就是定数。
相关:算力租赁专题、口径速查卡、NVLink 与 IB 组网、IB 与 RoCE 怎么选、H200 显存大在哪、8 卡还是 4 卡、PCIe 版慢在哪。
下一步
把你的并行策略与目标卡数发过来,我们会给出一组扫卡数测试方案,把你在哪张卡数上停止加速这个数字测出来。
价格确认 2026-09-28、货源确认 2026-10-11;资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664
