训练卡选 SXM 还是 PCIe:H100 三种形态先分清
先看负载要多少卡间带宽:跨机多卡训练选 SXM,单机通用看 PCIe;32 台一年期 9.3 万元/台/月(2026-09-28 确认)。
SXM、PCIe、NVL 是同一代 H100 的三种封装形态,决定卡间互联与扩展方式:SXM 走 NVSwitch、卡间带宽最高,面向多机大模型训练;PCIe 走标准插槽、单机为主;NVL 走两卡 NVLink 桥接、显存合并,面向大模型推理。选型先看负载需要多大的卡间带宽与显存,再谈单价。(价格口径 2026-09-28、货源口径 2026-10-11;以当日书面确认为准,不承诺现货。)
三条适用条件(含什么情况下不适用)
- 卡间同步强 → 优先 SXM。训练需要频繁梯度同步时,卡间带宽决定有效算力(不适用:只跑推理、单机就能装下模型,不必为组网付钱)。
- 能单机装下 → 看 PCIe 或 NVL。单机可容纳模型时,省下的是组网与交换机成本(不适用:模型跨多机,单机方案会反复显存溢出)。
- 显存先成为瓶颈 → 看 NVL 双卡合并。以推理为主、需要单机放下更大模型(不适用:能用更小模型或量化解决的,不必上双卡)。
四列表格:三种形态逐个对比
| 维度 | SXM | PCIe | NVL |
|---|---|---|---|
| 封装 | SXM5 模块,配 NVSwitch 基板 | 标准 PCIe 卡,普通插槽 | 两卡 + NVLink 桥接 |
| 卡间互联 | 卡间 NVLink 高带宽,可跨机扩展 | 跨卡走 PCIe/网络,单机为主 | 两卡之间 NVLink 桥接 |
| 典型场景 | 多机大模型训练 | 单机训练/推理、通用负载 | 大模型推理、显存合并 |
| 不适用 | 只需单机推理,不必为组网付钱 | 跨机大模型训练,会卡在通信 | 需要大规模多卡同步的训练 |
含税口径:报价是否含税以书面报价单为准,可开增值税专用发票。
当前确认的 H100 整机口径(2026-09-28)
| 数量与租期 | 价格口径 | 交付条件 | 备注 |
|---|---|---|---|
| 64 台 · 三年期 | 8.5 – 8.9 万元 / 台 / 月 | 最快 2026-10-15 交付 | 可按需拆分协商 |
| 32 台 · 一年期 | 9.3 万元 / 台 / 月 | IB 组网 | 一年期档位 |
| 约 16 台 · 10 月现货 | 按当日书面确认 | 全闪存储 | 小批量现货,非长约价 |
选形态前先问清这四个问题
我的任务到底吃卡间带宽还是显存?
结论:训练看带宽(梯度同步),推理看显存(能不能装下)。该要的凭证:供应商要能说出你这类负载的瓶颈是哪一个,而不是只报显存容量,见 显存怎么算。
SXM 和 PCIe 单价差多少,什么时候值得付?
结论:32 台一年期 9.3 万元/台/月、64 台三年期 8.5–8.9 万元/台/月,只有同一封装形态与同一租期才可比。该要的凭证:报价单里是否写明封装形态(SXM5 / PCIe / NVL),否则拿到的是不同商品的价,见 报价与询价口径。
H200 该批无 NVLink,能用吗?
结论:11 月到货约 128 台 H200 该批无 NVLink,适合显存/带宽敏感但不需要高强度跨卡同步的推理与长上下文负载;需要大规模卡间同步的训练要提前评估。该要的凭证:机内互联的实际拓扑与组网说明,而不是一句“没 NVLink”。
拿不准形态,怎么拿到可比价?
结论:先把负载、组网与交付时间登记,再让供应商按形态报价(本页不写未确认单价)。该要的凭证:同一张报价表里形态、数量、租期、交付条件四栏齐全。相关:数量与租期怎么对齐、批量采购必问的 12 件事。
风险与反例(什么情况下会亏)
- 形态与组网不匹配:再高的卡间带宽也用不上,钱付在不需要的能力上。
- 为最低单价选 PCIe 去跑跨机大模型训练:后段卡在通信上,有效算力反而最低,见 利用率与成本。
- 把“有 NVLink”当默认能力:本批 128 台 H200 无 NVLink,若按有 NVLink 的思路做训练方案,到货才发现卡间通信不够,见 H200 到货说明。
价格确认 2026-09-28、货源确认 2026-10-11。本页最后更新 2026-10-17;不同封装形态(SXM/PCIe/NVL)的供货与价格须按当日书面确认,本页不承诺现货,口径见 事实核。
下一步
把模型规模、精度要求、封装形态需求、组网与交付时间发来,我们按同一口径给可比价。相关页面:当期货源与到货时间表、H100 / H200 / B300 对比、算力租赁总览。
电话 18601021890 · 18911222965 微信 66212664