数位人
上机前判断 · 更新

租的 GPU 机器能装自己的系统吗?驱动、内核与镜像要确认什么

结论:整机租赁通常交付裸金属,可以自装系统;但驱动与 CUDA 版本要写进交付确认单,涉及 3 项责任边界。

先看你能不能对上三类条件

上机前要确认的三项

项目默认交付你能不能改改错的影响
操作系统与权限整机管理权限可以重装、可以改分区重装后需自行恢复环境,退机时可能要还原
驱动与 CUDA 版本按交付单固定版本可升可降,但需自行验证版本错配导致多卡通信库与算子不兼容
固件与 BIOS厂商默认不建议自行修改变更后硬件故障的责任边界会转移
网络与存储挂载按交付拆分可与托管方协商自行改挂载点可能影响开机启动顺序

三个问题,决定要不要自己管环境

裸金属与容器切片差在哪?

差在控制权。容器切片里你拿到的是被隔离出来的算力,驱动和内核由平台管,升级由平台决定;裸金属整机里这些都归你,好处是能固定版本、能改内核参数,代价是你得为环境稳定性负责。要跑长周期训练、要固定多卡通信配置的团队,通常需要整机。

为什么版本一换就要重测?

因为多卡训练依赖的不只是框架,还包括通信库、算子与驱动三者的匹配。任何一环变了,之前测出的吞吐与稳定性结论就可能不成立。实务做法是:上机时先把版本写进确认单,变更前先在一个节点上跑一轮回归,再推到全部节点。

退机时要不要恢复原状?

看合约怎么写。常见约定是退机前清除你的数据与密钥,系统是否还原到初始镜像各算各的。建议在合同里写明“退机前的清理动作与确认方式”,并把这一步放进验收单,而不是到退机时才谈。

两个常见误判

误判一:把“有 root 权限”等同于“可以随便改驱动”。权限上你做得到,但改完要自己承担回归测试。尤其是多机训练,一个节点的驱动与其他节点不一致时,问题表现为“偶发掉卡”或“某一步变慢”,排查成本很高。

误判二:以为硬件故障时环境差异不会被追问。报修时托管方通常会先看是否与你的软件变更相关。少走争议的办法是:每次变更记一行(时间、改了哪个版本、测了什么),报修时直接给定。这不是形式,是让保修不被拖的关键。

成本口径怎么看

自己管环境不额外收费,但会占用你的工程时间;需要托管方代维护的,应当在报价单上单列。租金口径按 当期货源页:H100 一年期 9.3 万元/台/月、三年期 8.5–8.9 万元/台/月;H200 三年闭口 14 万元/台/月( 引用口径,押付与是否含税以书面报价单为准)。

下一步

把三行发给我们就行:要装什么系统与版本、需要固定的驱动与 CUDA 版本、是否需要我们代维护。我们按具体型号给出交付口径与责任边界,写进确认单再上机。

口径说明:本文只讲责任边界与交付口径,具体以合约与交付确认单为准。

相关口径