GPU 算力租赁 · 知识库

算力知识库:把租卡前的问题一个个说清楚

按主题回答 H100、H200、B300 与 RTX 仿真卡租赁中的真实问题。每个页面只解决一个问题,并保留适用条件与边界。

NVIDIA H100 数据中心级 GPU 实卡。图片:极客湾Geekerwan,CC BY 3.0,via Wikimedia Commons
NVIDIA H100 数据中心级 GPU 实卡。图片:极客湾Geekerwan,CC BY 3.0,via Wikimedia Commons

主题索引

先选型,再谈价与交付

问题你会得到什么入口
RTX 5090、6000pro 这类仿真卡,和 H100/H200 训练卡怎么分工?仿真卡和训练卡是两条线:仿真卡按显存与并发密度选,训练卡按互联与带宽选。混在同一张询价单里,会得到无法比较的报价。查看
租 GPU 前显存怎么估?模型、精度和批大小怎么一起算?显存不够,卡再快也跑不起来。选型先算显存,再谈速度:模型权重、激活、优化器状态、批大小与长上下文都要留出余量。查看
单机多卡和多机集群,什么时候必须上多机?多机不是升级,是换架构:跨机通信、网络和存储会成为新瓶颈。先用单机多卡验证,再判断是否真的需要多机。查看
训练和推理,为什么要用不同的卡和不同的采购口径?训练看吞吐与互联,推理看时延、并发与成本。同一个模型,训练和推理的最优配置往往不同。查看
GPU 租期怎么定:按小时、按月还是按项目周期?租期直接影响可比较性。短测适合短租,稳定负载适合长租,但长租要确认资源锁定与交付边界。查看
GPU 集群的网络和存储,什么时候会成为瓶颈?卡越快,越可能被网络和存储拖住。多机训练、数据加载和检查点写入是最常见的瓶颈来源。查看

下一步

把结论变成可报价的需求

看完主题页后,可直接提交需求:说明 GPU 与系统形态、数量与拓扑、工作负载、租期、地域、网络存储与开始时间,按当日可用资源确认交付边界与报价。