我到底需要几张卡:从模型和时长倒推
结论:卡数从三个约束倒推——显存装得下、数据吃得完、时间赶得上(现货约 16 台)。
“需几张卡”不能直接回答,因为它不是一个输入,而是三个约束算完之后的结果。顺序很重要:先看显存能不能装下,再看加了卡能不能真的变快,最后看要求的时间内能不能跑完。
当期口径下,10 月小批量现货约 16 台(全闪),货源确认 2026-10-11;H100 一年期 9.3 万元/台/月(32 台,IB 组网)、三年期 8.5–8.9 万元/台/月(64 台,最快 2026-10-15 交付),价格确认 2026-09-28。这些是你能拿到手的规模上限,推算结果要用它们对一下。
事实核对:北京数位人科技有限公司 · 价格确认 2026-09-28 · 货源确认 2026-10-11 · 以当日书面确认为准。
适用条件:什么情况下该这样倒推
- 适用一条:你真的要报一个采购数字。内部审批需要台数与金额。
- 适用二条:你对单步耗时已经有实测数据。没数据就算不出来。
- 适用三条:你能接受“算完发现超预算”。这个过程常常会砍范围。
不适用:还在选模型、连任务边界都没定的阶段,先在小规模上跑通再算台数,否则算出来也是假的。
三个约束的顺序与判据
| 约束 | 怎么推 | 卡数不够时的表现 | 要什么凭证 |
|---|---|---|---|
| 显存装得下 | 训练占用总量 ÷ 单卡可用显存 | 直接报显存不够(OOM) | 显存实测记录 |
| 数据吃得完 | 看每步耗时是否下降 | GPU 利用率不高、卡在等数据 | 利用率与吞吐曲线 |
| 时间赶得上 | 总步数 × 单步耗时 ÷ 并行效率 | 到期跑不完,只能降精度或减数据 | 带截止日期的计划 |
| 组网打得通 | 看扩展后效率掉多少 | 加了卡但总时长几乎不变 | 多机效率曲线 |
| 到手拿得到 | 对照当期现货与到货窗口 | 算好了但没有机器交付 | 货源确认单 |
本页不提供单卡显存容量、每步耗时、并行效率百分比等具体系数(不属事实核范围);这些必须在你自己的任务上实测,套用外部表格往往会错很远。
四个必须问清的问题
第一步:显存要几张卡装得下?
结论:把模型、优化器状态、梯度与中间激活的显存加起来,再除以单卡可用显存。这里的关键是所有系数要用你自家任务实测,本页不提供通用系数。你要的凭证:模型显存实测记录。
第二步:数据吃得完吗?
结论:显存够不代表能跑得快。要看每步耗时能不能接受,以及数据通道供得上。卡加得太多而数据跟不上,卡就在空转。你要的凭证:单步耗时与 GPU 利用率曲线。
第三步:时间赶得上吗?
结论:把你要求的交付时间写下来,再算需要多少张卡才能在期内跑完。这一步常常得出一个远超预算的数量,那就该砍范围而不是硬加卡。你要的凭证:带截止日期的计划表。
多机扩展要不要打折?
结论:一定要。卡数翻倍不等于速度翻倍,多机通信有损耗。当期 H200 为 11 月到货约 128 台且无 NVLink(货源 2026-10-11),组网方式会直接影响扩展效率。你要的凭证:多机效率实测曲线。
反例:这几种算法会得出错的台数
- 拿公开的参数量估算表直接套。你的数据与实现与别人不同。
- 假设卡数翻倍、时长对半。多机通信一定会拖。
- 按显存刚好装下来算。训练还要留优化器与激活的空间。
- 算出台数不算交付时间。当期现货只有约 16 台。
相关:数位人首页、算力租赁专题、研究与动态、一次训练要跑多久、显存怎么算、多机扩展效率、口径速查卡。
下一步
把你的模型规模、单步耗时、要求交付时间三项发过来,我们帮你把三个约束过一遍。
价格确认 2026-09-28、货源确认 2026-10-11;资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664
