每百万 token 的算力成本怎么算
结论:成本 = 整机月成本 ÷ 当月实际产出 token 数,分母必须实测(一年期 9.3 万元/台/月)。
这个指标最容易算错的地方不在分子,在分母。整机花了多少钱是确定的,但一台机器一个月能吐出多少 token,取决于模型、上下文长度、批处理策略与并发。同一台机器,参数一变产出就能相差数倍。
当期口径下,H100 一年期 9.3 万元/台/月(32 台,IB 组网)、三年期 8.5–8.9 万元/台/月(64 台,最快 2026-10-15 交付),价格确认 2026-09-28;10 月小批量现货约 16 台(全闪),货源确认 2026-10-11。下面统一用这些金额做分子演示,但不给分母的任何系数。
事实核对:北京数位人科技有限公司 · 价格确认 2026-09-28 · 货源确认 2026-10-11 · 以当日书面确认为准。
适用条件:什么时候该看这个指标
- 适用一条:你要按调用量对外报价。不定单位成本就无法定价。
- 适用二条:你在比较自建与调用 API。需要同一单位才能比。
- 适用三条:你有压测能力。没有实测就只能猜。
不适用:只跑内部实验、不对外计费的需求,算单位成本意义不大,看总机时更直接。
四块成本与错误算法
| 成本块 | 怎么算 | 常见错误算法 | 要什么凭证 |
|---|---|---|---|
| 整机月成本 | 按报价单的月度金额 | 拿年价除 12 却按 365 天摊 | 报价单与租期行 |
| 月产出 token | 实测吞吐 × 实际运行时长 | 用理论峰值乘整月时长 | 吞吐压测记录 |
| 存储与自检点 | 单独列项 | 当成零、不属入 | 存储计费单 |
| 带宽与流量 | 单独列项 | 与算力混在一起谈 | 带宽计费单 |
| 失败重试消耗 | 计入总消耗量 | 只算成功请求 | 调用日志与重试统计 |
本页不提供任何模型的每秒 token 产出、每秒请求数、上下文长度与吞吐的对应关系(不属事实核范围);也不给“每百万 token 多少钱”的具体结论值。
四个必须问清的问题
公式是什么?
结论:每百万 token 成本 = 整机月成本 ÷ 当月实际产出的 token 数(再乘一百万)。前半可以算,后半只能在你自己的服务上实测。你要的凭证:吞吐压测记录与计费口径。
为什么不能用理论吞吐算?
结论:理论吞吐只是峰值,实际会受输入长度、批处理、上下文长度拖累。用它算出来的成本往往低一半以上,拿去报价会亏。你要的凭证:不同上下文长度下的实测吞吐。
这个成本能直接对外报价吗?
结论:不能。它只是算力那一层,不含带宽、存储、运维与毛利。当期 H100 一年期 9.3 万元/台/月(32 台,价格 2026-09-28)也只是机器本身。你要的凭证:完整成本构成表。
哪些成本容易被遗漏?
结论:四类——存储与自检点、公网带宽、空闲时的待机成本、以及失败重试消耗的 token。这四项都不在“每卡每小时”里面。你要的凭证:分项计费单。
反例:这几种算法一定会算出偏低的成本
- 拿峰值吞吐乘整月时长。机器不会满负荷跑一个月。
- 只算成功请求。重试的消耗也是真金白银。
- 把存储与带宽当成配送的。长期跑下来占比不小。
- 忽略空闲时段。机器空转也按月付钱。
相关:数位人首页、算力租赁专题、研究与动态、一次训练要跑多久、推理批处理怎么调、计费口径与计量、存储怎么收费。
下一步
先跑一组压测:同一模型、不同上下文长度各测一次吞吐,这个分母才算站得住。
价格确认 2026-09-28、货源确认 2026-10-11;资源与价格以当日书面确认结果为准。电话 18601021890 · 18911222965 微信 66212664
