H20 小规模推理的真实边界：以 3 台为算例
当期货源：H20 可询价（数量以书面确认为准），定位是推理与一般负载；价格按台数与租期单独确认。本页以 3 台为算例说明适用边界。
事实核对：北京数位人科技有限公司 · 货源确认 2026-10-21 · 台数与价格以当日书面确认为准。
要少量 H20？直接说模型、并发与租期
说明模型参数量与精度、峰值并发与延迟要求、是否需要独占，我们按当日可确认的台数回口径。
微信：66212664（加好友直接说模型与并发）
以 3 台为算例：合理用途与不该接的活
| 任务 | 能不能接 | 判断依据 | 要的凭证 |
|---|---|---|---|
| 中小参数模型推理 | 适合 | 单机可装下、并发不高 | 实测首 token 与每 token 延迟 |
| 内部应用 / 评测 / 预处理 | 适合 | 不需要持续高并发 | 任务队列与时长估算 |
| 公网高并发推理主力 | 不建议 | 3 台没有冗余，峰值一来就堆 | 峰值 QPS 与冗余方案 |
| 大模型预训练 | 不适合 | 台数与互联都不够 | 改往 H100 / H200 批次 |
四个问题，决定这个规模适不适合你
3 台能装下你要跑的模型吗？
结论：先按参数量和精度算显存，再看单机能装几层。装不下就是装不下，量化不是万能的。你要的凭证：实测显存占用截图，而不是参数表折算。
峰值并发来了怎么办？
结论：3 台没有冗余，一台维护就少三分之一。要上公网服务，得先算清峰值 QPS 与降级方案。你要的凭证：带降级策略的容量估算表。
为什么不直接上 H100 或 H200？
结论：看任务类型。小规模推理用少量 H20 就够，不必为峰值预算；要训练与跨节点并行，就往 H100（64 台三年期 8.5–8.9 万元/台/月）或 H200（64 台 14 万元/台/月）走。你要的凭证：两条路线的台月总数对比。
3 台能随时补量吗？
结论：不能默认。当期 H20 可询价，实际台数以书面确认为准，补量要等下一批。你要的凭证：补量可行性与时间窗的书面回复。
什么情况下会亏（反例）
- 按峰值估算买台数，平时一半机器空转。
- 拿 3 台做公网主力推理，大促当天直接打挂。
- 拿 H20 批当训练机：台数与互联都不够，跑起来比等下一批更贵。
- 相信“随时能补”：当期台数以书面确认为准，不是承诺供给。
要继续看什么
当期货源与到货时间表；H20 的定位；算力口径速查卡；推理批处理与吞吐；KV cache 怎么算显存。
本页为 H20 小规模推理的适用边界说明，不构成报价承诺；台数与价格以当日书面确认为准。