混合精度对显存和速度的影响：值不值得开
结论：混合精度能省显存、能提速，但带数值稳定性风险，先小规模对照再全量开（现货约 16 台）。
混合精度不是一个开关，而是一组取舍：哪些运算用低精度、哪些必须保留高精度、损失如何缩放。开对了，显存和速度都受益；开错了，跑出 NaN 或收敛变差，重跑的成本比省下的机时还高。
当期口径下，H100 一年期 9.3 万元/台/月（32 台，IB 组网）、三年期 8.5–8.9 万元/台/月（64 台，价格确认 2026-09-28）；10 月小批量现货约 16 台且为全闪配置（货源确认 2026-10-11）。对照实验也得花机时，所以越早算清楚越省。
事实核对：北京数位人科技有限公司 · 价格确认 2026-09-28 · 货源确认 2026-10-11 · 以当日书面确认为准。
适用条件：什么时候值得开
- 适用一条：显存卡得很死，批次提不上去。省下的显存可以直接换成更大的批次。
- 适用二条：任务以吞吐为主，精度容错宽。推理与预训练通常容错宽。
- 适用三条：有可比的基线。没有基线就无法判断精度有没有掉。
不适用：已出现梯度爆炸、损失极小、或对数值稳定极敏感的任务，先解决稳定性再谈提速。
四种设置的对照
| 精度设置 | 显存与速度 | 主要风险 | 要什么凭证 |
|---|---|---|---|
| 全高精度 | 显存占用最高，速度最慢 | 无精度风险，但卡时成本高 | 基线单步耗时与指标 |
| 混合精度（主流默认） | 显存下降，速度提升 | 损失缩放不当会溢出 | 开与关的对照记录 |
| 全部低精度 | 显存最低，速度最快 | 收敛容易变差，回流风险高 | 多轮实验的稳定性数据 |
| 推理侧低精度部署 | 显存下降，延迟降低 | 输出分布偏移 | 评测集上的指标差异 |
本页不提供具体显存节省比例与提速倍数（强依赖模型与实现，不属事实核范围）；请以你自己的对照实测为凭。
四个必须问清的问题
混合精度为什么能提速？
结论：部分运算用更低的精度跑，硬件在单位时间能算更多，内存搬运量也变少。两者叠在一起，才出现“又省显存又快”的效果。你要的凭证：开与关的单步耗时与显存峰值对比。
开了以后不收敛怎么办？
结论：先查损失缩放是否合适，再查归一化与损失计算是否被丢到了低精度。这两处是最常见的坑，而不是精度本身不能用。你要的凭证：损失曲线、梯度范数与溢出记录。
什么任务不建议开？
结论：对数值极敏感的收敛任务，例如很小的损失值、很长的训练、或以稳定性为先的生产训练。省下的机时可能还不够重跑一次。你要的凭证：两种精度下的最终指标与训练稳定性记录。
怎么验证精度没掉？
结论：同一份数据、同一个种子，开与关各跑一段，比最终指标而不是只比首个 loss。当期口径下 H100 一年期 9.3 万元/台/月（32 台，IB 组网，价格 2026-09-28），一次错误的对照比机时更贵。你要的凭证：对照实验记录与指标差异。
反例：这几种开法会重跑
- 直接全量开，不跑小规模对照。出问题时无法定位是哪一步导致的。
- 只比第一步 loss。短期对上不代表长期收敛一致。
- 把归一化也丢进低精度。这是最常见的练崩原因。
- 拿别家的提速数字当自己的预期。实现差异很大，数字不可移植。
相关：算力租赁专题、口径速查卡、量化能省多少显存、批次与显存怎么配、H200 显存大在哪、利用率怎么提、多机扩展效率。
下一步
告诉我模型、当前显存峰值与基线指标，我们给出一轮开与关的对照方案，把能不能开的结论测出来。
价格确认 2026-09-28、货源确认 2026-10-11；资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664