云上按需还是自己租整机:什么用量下哪个更省
云上按需还是租整机:连续跑满 730 小时/月后,整机 9.3 万元/台/月才可能更省(2026-09-28 确认)。
三条适用条件(含什么情况下不适用)
- 连续占用接近跑满 → 看整机台月价。参照口径:H100 一年期 9.3 万元/台/月(32 台,IB 组网)、三年期 8.5–8.9 万元/台/月(64 台,最快 2026-10-15 交付,2026-09-28 确认),按 730 小时/月折算。不适用:每月只跑几小时到几十小时,按需或按卡时更省,见 月租 vs 时租。
- 需要独占、可审计 → 整机才有意义。序列号与拓扑可核验、环境自己定。不适用:只要跑通脚本、不涉敏感数据时,共享环境的隔离差异影响不大,见 数据安全。
- 多机并行 → 先确认互联能否满足。H200 当期口径为 11 月到货约 128 台、无 NVLink(2026-10-11 确认),要多机高速互联就得选对型号。不适用:单机就能装下的模型,不必为互联付溢价,见 NVLink 与 IB。
五列表:同口径对比该怎么拉
| 维度 | 云上按需 | 租整机(台/月) | 该要的凭证 | 当期参照 |
|---|---|---|---|---|
| 计费粒度 | 按小时/卡时,弹性起停 | 按台/月或项目周期 | 报价单写明单位 | 一个月按 730 小时折算 |
| 适配用量 | 波动大、周期短 | 连续跑满、按月以上 | 历史占用小时数 | H100 一年期 9.3 万元/台/月(32 台,2026-09-28) |
| 隔离与可控 | 共享环境,受平台限制 | 整机独占,环境自定 | 隔离与权限说明 | 见 数据安全 |
| 互联与拓扑 | 受实例规格与调度影响 | 可指定单机/多机与 IB 组网 | 组网方式与带宽实测 | H200 11 月到货约 128 台、无 NVLink(2026-10-11) |
| 漏项风险 | 出口带宽、存储另计 | 运维边界要写入合同 | 含与不含项清单 | 见 隐性成本 |
含税口径:报价是否含税以书面报价单为准,可开增值税专用发票。
本页金额仅引用事实核已登记档位(确认日期 2026-09-28),货源口径确认日期 2026-10-11。
四个买方问题
什么用量下整机才真更省?
结论:把上个月实际占用的小时数除以 730,得到占用率;只有接近跑满且连续数月,整机台月价才划算,否则波动全变成沉没成本。该要的凭证:用量明细与占用小时统计,见 计费单位。
卡时价和台月价怎么拉齐?
结论:同时间口径(730 小时)、同配置(是否含网络、存储、运维)、同服务边界,三样对齐再比。该要的凭证:含与不含项逐条列出的报价单,见 报价八项。
哪些成本最容易漏?
结论:带宽、存储、运维人力、空转与故障重跑四项;只比单卡价通常都不含。该要的凭证:费用边界条款,见 隐性成本。
先验证阶段该走哪条路?
结论:先用按需或短测把任务跑通;仿真适配可用 RTX 5090 仿真卡 1.2 万元/台/月(30 台)小体量起步,再决定是否切整机。该要的凭证:短测报告与配额说明,见 短测怎么做。
反例:这三种会亏
- 拿单卡时价乘卡数当台月价:漏了互联与运维,差出一大截,见 租还是自建。
- 只为峰值买整月:峰时只占几天,其余时间空转照付,相当于把弹性溢价换成了闲置成本。
- 忽略存储与出口带宽:数据集与 checkpoint 的存储、外网传输常常单独计,训练成本被低估,见 checkpoint 与存储规划。
价格确认日期 2026-09-28,货源确认日期 2026-10-11。本页最后更新 2026-10-17;计费单位与含不含项以当日书面确认为准。
下一步动作
告诉我们两个数:上月实际占用小时数、预计连续使用的月数。两个数一到,我们直接给按需与整机的同口径对比。提交 GPU 租赁需求,当期现货见 现货与排期。
资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664
