租来的 GPU 用不满:有效利用率与成本口径
先算有效利用率:H100 一年期 9.3 万元/台/月折 730 小时约 127 元/台/小时,闲置也在付。
三条适用条件(含什么情况下不适用)
- 负载连续、利用率高 → 按台月。一年期 9.3 万元/台/月(32 台,IB 组网),三年期 8.5–8.9 万元/台/月(64 台,最快 2026-10-15 交付)。不适用:每周只有几小时算力的团队,闲置时段的钱白付。
- 负载间歇、峰值型 → 按卡时。以 127 元/台/小时为基准,低于这个价且跑不满整月的场景,按卡时更省,见 按卡时 vs 按台月。不适用:需要独占整机与固定环境的在线服务。
- 只想把谷填上 → 仿真卡或短租。RTX 5090 仿真卡 1.2 万元/台/月(30 台,2026-09-28 确认),折 730 小时约 16 元/台/小时。不适用:需要 ECC 与大显存的长训练,见 仿真与训练。
四列以上的成本表:口径、算法、当期数字、用来决定什么
| 口径 | 怎么算 | 当期数字示例(2026-09-28 确认) | 用来决定 |
|---|---|---|---|
| 瞬时利用率 | 采样时刻卡是否在计算 | 没有统一阈值,只用来排查空转 | 先定位有没有明显空闲 |
| 有效利用率 | 租期内实际计算时长 ÷ 租期时长 | 一个月按 730 小时计 | 按台月还是按卡时 |
| 闲置成本 | 闲置时长 × 单位小时成本 | 9.3 万元 ÷ 730 ≈ 127 元/台/小时;1.2 万元 ÷ 730 ≈ 16 元/台/小时 | 要不要拆成短租 |
| 单任务成本 | 周期总花费 ÷ 完成任务数 | 用当期单价与你自己的任务量代入 | 选哪个型号档位 |
| 档位选择 | 一年期与三年期哪个更适合 | 一年期 9.3 万元/台/月(32 台);三年期 8.5–8.9 万元/台/月(64 台) | 值得不值得承诺长期 |
含税口径:报价是否含税以书面报价单为准,可开增值税专用发票。
换算说明:月租除以 730 得每台每小时成本;若报价按单卡而非整机,还需要除以整机卡数才能横向对比。
四个买方问题
利用率多少才算够?
结论:没有通用阈值,能回答“跑不满的钱值不值”就是够。用有效利用率而不是瞬时读数,看一周里的空闲分布。该要的凭证:连续 7 天的实际计算时长统计,见 监控与访问。
闲置到什么程度,就该改成按卡时?
结论:当有效利用率低于卡时价与台月价的比值时就该改。以 127 元/台/小时为例,卡时报价低于这个数且你有明显空闲时段,拆短更省。该要的凭证:卡时报价单是否含网络、存储与运维,以及起停与数据准备的实际耗时。
三年期单价更低,值得签吗?
结论:看能否把利用率做上去。三年期 8.5–8.9 万元/台/月(64 台)换来的是更低单价,但也意味着更长的闲置风险,利用率低于预期时省下的档差会被白付的时段吃掉。该要的凭证:未来 12 个月的负载预测与提前退租条款,见 租期怎么选。
怎么减少闲置成本?
结论:错峰跑批、混合负载填谷、把长尾改成短租,三件事按顺序做。该要的凭证:可延迟任务清单、峰值时段统计,以及带计费口径的隐性成本清单,见 隐性成本。
反例:什么情况下会亏
- 只看瞬时利用率就断言“用得挺满”:白天峰值好看,夜里空转,月度账单里全是闲置。
- 为降单价签三年期,却没拿到稳定负载:8.5–8.9 万元/台/月的档位省不下来,反而多担了长期承诺,见 预算规划。
- 把长尾实验塞进按台月的整机:127 元/台/小时 的基准成本下,一周只用几小时的实验单任务成本最高。
价格确认日期 2026-09-28,货源确认日期 2026-10-11。本页最后更新 2026-10-17;利用率与计费口径为通用方法,实际单价以当日书面确认为准,见 事实核。
下一步动作
把过去两周的负载曲线与峰值时段发给我们,我们直接给出计费方式、租期与要锁的台数。顺序是先看 月租 vs 时租 的换算,再 提交 GPU 租赁需求;单任务成本见 按任务算成本。
计费与单价口径以当次书面确认为准。电话 18601021890 · 18911222965 微信 66212664
