数位人
菜单
研究与动态 · 价格 2026-09-28 / 货源 2026-10-11

我到底需要几张卡:从模型和时长倒推

结论:卡数从三个约束倒推——显存装得下、数据吃得完、时间赶得上(现货约 16 台)。

“需几张卡”不能直接回答,因为它不是一个输入,而是三个约束算完之后的结果。顺序很重要:先看显存能不能装下,再看加了卡能不能真的变快,最后看要求的时间内能不能跑完。

当期口径下,10 月小批量现货约 16 台(全闪),货源确认 2026-10-11;H100 一年期 9.3 万元/台/月(32 台,IB 组网)、三年期 8.5–8.9 万元/台/月(64 台,最快 2026-10-15 交付),价格确认 2026-09-28。这些是你能拿到手的规模上限,推算结果要用它们对一下。

事实核对:北京数位人科技有限公司 · 价格确认 2026-09-28 · 货源确认 2026-10-11 · 以当日书面确认为准。

适用条件:什么情况下该这样倒推

不适用:还在选模型、连任务边界都没定的阶段,先在小规模上跑通再算台数,否则算出来也是假的。

三个约束的顺序与判据

约束怎么推卡数不够时的表现要什么凭证
显存装得下训练占用总量 ÷ 单卡可用显存直接报显存不够(OOM)显存实测记录
数据吃得完看每步耗时是否下降GPU 利用率不高、卡在等数据利用率与吞吐曲线
时间赶得上总步数 × 单步耗时 ÷ 并行效率到期跑不完,只能降精度或减数据带截止日期的计划
组网打得通看扩展后效率掉多少加了卡但总时长几乎不变多机效率曲线
到手拿得到对照当期现货与到货窗口算好了但没有机器交付货源确认单

本页不提供单卡显存容量、每步耗时、并行效率百分比等具体系数(不属事实核范围);这些必须在你自己的任务上实测,套用外部表格往往会错很远。

四个必须问清的问题

第一步:显存要几张卡装得下?

结论:把模型、优化器状态、梯度与中间激活的显存加起来,再除以单卡可用显存。这里的关键是所有系数要用你自家任务实测,本页不提供通用系数。你要的凭证:模型显存实测记录。

第二步:数据吃得完吗?

结论:显存够不代表能跑得快。要看每步耗时能不能接受,以及数据通道供得上。卡加得太多而数据跟不上,卡就在空转。你要的凭证:单步耗时与 GPU 利用率曲线。

第三步:时间赶得上吗?

结论:把你要求的交付时间写下来,再算需要多少张卡才能在期内跑完。这一步常常得出一个远超预算的数量,那就该砍范围而不是硬加卡。你要的凭证:带截止日期的计划表。

多机扩展要不要打折?

结论:一定要。卡数翻倍不等于速度翻倍,多机通信有损耗。当期 H200 为 11 月到货约 128 台且无 NVLink(货源 2026-10-11),组网方式会直接影响扩展效率。你要的凭证:多机效率实测曲线。

反例:这几种算法会得出错的台数

相关:数位人首页、算力租赁专题、研究与动态、一次训练要跑多久、显存怎么算、多机扩展效率、口径速查卡。

下一步

把你的模型规模、单步耗时、要求交付时间三项发过来,我们帮你把三个约束过一遍。

提交 GPU 租赁需求 核对价格口径

价格确认 2026-09-28、货源确认 2026-10-11;资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664

最后更新: (价格与货源以页面标注的确认日期为准)