数位人
菜单
组网与拓扑 · 价格 2026-09-28 / 货源 2026-10-11

NVLink 拓扑怎么影响训练速度:全互联与半互联差多少

结论:拓扑决定哪些并行策略跑得动,差多少必须扫卡数实测才能定(现货约 16 台,货源 2026-10-11)。

拓扑不像算力那样直接换成秒数。它影响的是卡与卡之间每步要花多久把中间结果传完:传得快,加卡就能涨吞吐;传得慢,加到一定数量就不再涨。所谓“差多少”,本质上是“你的模型在哪张卡数上停止加速”。

当期口径下可核的是:H100 一年期 9.3 万元/台/月(32 台,IB 组网)、三年期 8.5–8.9 万元/台/月(64 台,价格确认 2026-09-28);H200 11 月到货约 128 台且无 NVLink,另有 3 台现货可询价(货源确认 2026-10-11)。

事实核对:北京数位人科技有限公司 · 价格确认 2026-09-28 · 货源确认 2026-10-11 · 以当日书面确认为准。

适用条件:什么时候拓扑是真正的决策点

不适用:推理服务与小模型微调,任务本身不靠跨卡高频交换,拓扑的影响小到不值得为它付溢价。

四类策略的拓扑敏感度

并行策略对拓扑的敏感度半互联下的典型表现要什么凭证
数据并行低,只在梯度同步时交换卡数少时影响不大多卡效率曲线
张量并行高,每层都要交换中间结果超过一定卡数就不涨吞吐扫卡数实测数据
流水并行中等,受微批次节奏影响气泡变大,总机时拉长流水效率与气泡占比
专家并行高,路由需要频繁交换波动大,调度难度上升路由开销与负载均衡数据
单卡推理极低几乎无差别单卡延迟实测

本页不提供各拓扑的带宽数值与互联形态的具体倍数(不在本期事实核范围内);请以厂商规格书与实测结果为凭。

四个必须问清的问题

全互联和半互联到底差多少?

结论:没有通用倍数,差多少取决于你的并行策略与模型大小。同样一套拓扑,数据并行可能只差一点,张量并行可能差出数倍。你要的凭证:你自己的模型在两种拓扑上的总机时对比。

什么并行策略最吃拓扑?

结论:每步都要交换大量中间结果的策略,也就是张量并行与专家并行。数据并行只在梯度同步时说话,敏感度低得多。你要的凭证:并行策略与每步通信量的书面说明。

没 NVLink 的机型能用来训练吗?

结论:能,但要选对任务。当期口径下 H200 为无 NVLink 配置(11 月到货约 128 台,另有 3 台现货可询价,货源 2026-10-11),适合单卡或单机内低通信密度的作业,不适合高频交换的大规模张量并行。你要的凭证:机型拓扑说明与你的并行方案匹配性确认。

怎么实测拓扑影响?

结论:固定模型与全局批次,只改卡数,看吞吐在哪一张卡数上停止增长。那个拐点就是拓扑开始卡住你的位置。你要的凭证:1/2/4/8 卡下的吞吐与效率数据。

反例:这几种想法会让你选错拓扑

相关:算力租赁专题、口径速查卡、NVLink 与 IB 组网、IB 与 RoCE 怎么选、H200 显存大在哪、8 卡还是 4 卡、PCIe 版慢在哪。

下一步

把你的并行策略与目标卡数发过来,我们会给出一组扫卡数测试方案,把你在哪张卡数上停止加速这个数字测出来。

提交 GPU 租赁需求 核对价格口径

价格确认 2026-09-28、货源确认 2026-10-11;资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664

最后更新: (价格与货源以页面标注的确认日期为准)