GPU 算力租赁 · 采购问答

H100、H200、B300 租赁怎么选?按训练、推理和显存需求比较

H100、H200、B300 不应按新旧直接选择。先判断任务被计算、显存、内存带宽、互联、网络还是预算限制,再用短测决定租赁方案。

GPU 租赁采购指南公开责任:商务负责人 孙景璐发布:2026-09-03更新:2026-09-03研究与证据方法

直接回答

H100、H200、B300 租赁怎么选?按训练、推理和显存需求比较

已有成熟 H100 环境且任务能稳定运行时,先比较继续使用的总成本;模型、批量或上下文受显存与内存带宽限制时,把 H200 加入短测;需要评估 Blackwell Ultra 体系时,先明确 B300 GPU、DGX B300 或 GB300 NVL72 的交付形态。最终按同一真实任务的完成时间、稳定性和总成本选择。

可核验判断

先把产品事实和采购建议分开

01

H100 与 H200 属于 NVIDIA Hopper 产品路线,H200 官方重点强调 HBM3e 容量与带宽。

02

DGX B300 与 GB300 NVL72 属于 Blackwell Ultra 系统路线,系统级交付不能简化为一张 GPU 的比较。

03

跨代性能宣传不能替代企业自己的模型、精度、并行策略、网络和存储条件。

询价与决策表

不要问谁最强,先问任务卡在哪里

任务情况优先进入短测必须记录
现有 H100 流程成熟H100 作为成本基线完成时间、利用率、失败与迁移成本
显存或带宽成为瓶颈H200 与当前方案同条件比较可装载规模、吞吐、延迟和总成本
大规模推理或新架构评估B300/DGX B300/GB300 明确形态后测试软件兼容、网络、稳定性与交付周期
多机训练任何候选都必须带集群环境评测互联、NCCL、存储、检查点和故障恢复

执行流程

从需求到短测,再到正式租赁

  1. 01 · 定义通过线

    明确训练完成时间、推理延迟、吞吐、稳定性和预算上限。

  2. 02 · 保留 H100 基线

    使用现有或候选 H100 环境记录端到端结果。

  3. 03 · 只改变一个变量

    尽量固定容器、数据、精度、批量和并行策略。

  4. 04 · 比较一次完成成本

    把租赁、迁移、重试、网络、存储和人工都计入。

  5. 05 · 形成主备方案

    确定常用资源、峰值扩容资源和不可用时的替代路线。

边界

这些信息不能靠营销话术省略

  • 本页是选型方法,不是性能排行榜。
  • B300、DGX B300 与 GB300 的交付单位不同,必须分别询价。
  • 具体性能、价格和可用性只对测试日期、配置与供应条件有效。

一级来源

产品规格以 NVIDIA 官方资料为准

继续采购决策

H100 租赁询价方法H200 租赁决策B300 租赁询价方法