H100 比 A100 快多少：值不值这个差价
结论：快多少取决于你的负载，必须跑自己的基准而不是看宣传倍数（H100 现货约 16 台，货源 2026-10-11）。
这个问题没有统一答案，但有一个通用的判法：把你自己的模型在两个型号上各跑一段，记两个数——单步耗时与 GPU 利用率。这两个数字拿到手，值不值差价就能自己算，不需要问任何人。
当期口径下，H100 有 10 月小批量现货约 16 台（全闪），三年期 8.5–8.9 万元/台/月（64 台）、一年期 9.3 万元/台/月（32 台，IB 组网，价格确认 2026-09-28）。A100 的当期货源与价格不在本期事实核范围内，需当日书面确认。
事实核对：北京数位人科技有限公司 · 价格确认 2026-09-28 · 货源确认 2026-10-11 · 以当日书面确认为准。
适用条件：这些问题下才值得认真算差价
- 适用一条：训练机时是主要成本项。机时占比高，速度提升才能直接换成钱。
- 适用二条：卡已接近性能上限。GPU 利用率长期很高，说明瓶颈在算力。
- 适用三条：任务有交付时间压力。少跑几天就能赶上窗口期，差价的性价比很高。
不适用：GPU 利用率长期偏低、瓶颈在数据管道或通信的任务，先修管道比换卡回报高得多。
四个维度的对比方法
| 对比维度 | 怎么比才有意义 | 常见误判 | 要什么凭证 |
|---|---|---|---|
| 单卡算力 | 同模型、同批次、同精度下的单步耗时 | 拿官方倍数直接乘自己的耗时 | 你自己的基准脚本与计时结果 |
| 显存与批次 | 能不能放下更大的批次或更长上下文 | 只看容量不看实际占用 | 显存占用曲线与最大可用批次 |
| 卡间互联 | 多卡时效率是否随卡数下降 | 只看单卡速度 | 多卡带宽实测与多卡效率曲线 |
| 成本折算 | 差价除以节省的机时 | 只比月单价高低 | 两种卡完成同一任务的计时 |
本页不提供两代卡的算力倍数与 A100 当期报价（不在本期事实核范围内），避免拿未经核实的数字做采购决策。
四个必须问清的问题
官方倍数能直接用吗？
结论：不能。厂商倍数通常取自最优场景（特定精度、饱满批次、理想访存），而你的任务很可能卡在其他环节。你要的凭证：你自己模型在两个型号上的实测吞吐与单步耗时。
A100 现在还有货吗？
结论：A100 货源与价格不在本期事实核范围内，需当日书面确认。当期可查的是 H100 与 H200：H100 现货约 16 台，H200 于 11 月到货约 128 台（货源 2026-10-11）。你要的凭证：当日货源台账与可交付时间。
差价怎么摊到任务成本上？
结论：把差价除以“节省的机时”算，而不是比月单价。当期口径下 H100 一年期 9.3 万元/台/月（32 台，IB 组网，价格 2026-09-28），如果新卡能把一次训练的机时缩短到一定比例，差价就自己摊平了。你要的凭证：两种卡完成同一个任务的计时结果。
什么负载换 H100 不划算？
结论：卡在数据加载、通信或宿主 CPU 的负载体，换卡提升有限。你的瓶颈不在算力时，砸钱换型号只是把预算花在了看不见的地方。你要的凭证：一次带 GPU 利用率的性能剖析。
反例：这几种对比方式会做错决定
- 拿宣传倍数乘自己的旧耗时。算出来的数字没人能复核，也没人去复核。
- 只看单卡不看多卡。多机时候通信占比上升，单卡优势会被抹平。
- 不看利用率就换型号。管道瓶颈没修，换什么卡都一样慢。
- 拿不同批次、不同驱动的结果比。变量没控住，结论不可信。
相关：算力租赁专题、口径速查卡、H100 租赁、H100 价差怎么来的、H200 显存大在哪、NVLink 与 IB 组网、租还是买。
下一步
把你的模型与一段代表性数据发过来，我们可以在两个型号上各跑一轮同条件基准，给你一张带单步耗时与利用率的对比表。
价格确认 2026-09-28、货源确认 2026-10-11；资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664