做深度学习、跑大模型训练或者搞 AIGC 推理，显卡永远是第一道门槛。一张 RTX 4090 动辄一万多，A100 更是天价，而且买回来后利用率可能不到 30%。对于个人开发者、学生党或者初创团队来说，"租"往往比"买"更划算。 但市面上 GPU 租赁渠道五花八门，怎么选？怎么操作才能不踩坑？这篇文章结合我近期的上手体验，给你一个完整的实操路径。

一、GPU 租赁的三种主流途径

在动手之前，先快速扫一遍目前能搞到 GPU 算力的方式，方便你判断哪种更适合自己：

途径	特点	适合谁
自建本地服务器	一次性投入高，维护麻烦，但数据完全本地，无后续租金	有固定场地、长期高负载的企业
头部云厂商（阿里云/腾讯云等）	品牌背书强，生态完善，但单价偏高，热门卡型经常缺货	已有云生态依赖、预算充足的企业
垂直算力平台	卡型丰富、计费灵活、镜像预装环境多，上手门槛更低	个人开发者、中小团队、快速试错场景

我的建议：如果你只是阶段性需要跑实验、做推理部署，或者团队还没确定最终模型方案，垂直算力平台的弹性租赁模式是性价比最高的选择。即开即用，按小时/按周/按月灵活切换，不用了随时释放，不养闲卡。

二、实操演示：从注册到跑通第一个容器

下面以 立方云 为例，完整走一遍"注册 → 创建实例 → 连接使用"的全流程。立方云平台是网鼎科技旗下的边缘算力平台，支持容器化和裸金属两种交付方式，比较适合需要快速试错的场景。

Step 1：注册与充值

进入立方云官网注册账号，完成实名认证。创建实例前确保账户余额能覆盖首个计费周期的费用——平台支持按小时、包周、包月三种计费模式，短期测试选按小时，长期训练选包月，单价会更低。

Step 2：创建实例（核心配置环节）

登录控制台，进入 GPU 容器创建页面，需要填几个关键项：

基本信息

• 计费模式：按量/包周/包月，按任务周期选即可。
• 地域：选离你近的。
• 显卡类型：根据任务选卡。比如做 AI 绘画、视频生成可以选 RTX 5090（32GB 显存，￥2.98/时）；跑大模型推理或微调选 H20（96GB，￥6.95/时）；需要多卡分布式训练直接上 A100 80GB 八卡集群。

实例镜像（省时间的关键）

立方云镜像市场分了三种，强烈建议新手直接选"容器镜像"或"社区镜像"，已经预装了 CUDA、Python、PyTorch、ComfyUI、DeepSeek 等环境，能跳过最折磨人的配环境阶段。

• 系统镜像：裸系统，需要自己从零装驱动和框架。
• 容器镜像：预装主流 AI 框架和工具，开箱即用。
• 社区镜像：涵盖 LLM、图像、视频等场景，一键部署。

高级配置

• SSH 密码：设置 root 用户密码，长度 8-64 位，后续连接要用。
• 数据盘：默认 20GB 免费，超出部分按存储单价计费。建议把代码、数据、模型统一放在 /workspace 目录下，不要存在系统盘，避免扩容或迁移时丢失。

确认页面底部的费用预览后，点击创建实例。

Step 3：等待实例就绪

提交后回到实例列表，等状态变为 running 即可。这时候实例详情页会显示 SSH 端口和 Jupyter 访问地址。

Step 4：连接容器（两种方式）

方式 A：SSH 连接（推荐，适合日常开发）

复制实例详情里的 SSH 命令：

ssh root@<ip> -p <port>

第一次连接输入 yes 确认，然后输入创建时设置的 SSH 密码（输入时不显示字符，输完直接回车）。

方式 B：Jupyter 访问（适合快速验证）

如果选的镜像包含 Jupyter，实例详情会提供一个带 token 的访问地址，直接复制到浏览器打开即可，不用额外配环境。

Step 5：验证 GPU 与数据盘

进入容器后，先跑一条命令确认 GPU 是否正常挂载：

nvidia-smi

正常输出会显示 GPU 型号、显存、驱动和 CUDA 版本信息。然后建议把项目文件统一放到 /workspace：

cd /workspace
mkdir -p project data output
df -h /workspace

到这里，你已经拥有一台随时可用的 GPU 开发环境了，从注册到跑通大概也就几分钟。

三、选型建议：怎么选卡、怎么选模式

很多新手第一次租 GPU 会纠结：到底选什么卡？容器还是裸金属？结合立方云目前的卡型和交付方式，给几个实用判断：

按任务选卡型

• AI 内容生成 / 图形渲染：RTX 5090、RTX 6000D，单卡显存 32GB/84GB，适合 Stable Diffusion、ComfyUI、视频生成等高并发图形计算。
• 模型推理与微调：NVIDIA H20（96GB）、A100（80GB），显存大、带宽高，适合模型优化和线上推理。
• 大模型训练 / 分布式计算：A100 80GB 八卡集群，NVLink 互联，适合参数规模庞大的训练任务。
• 国产替代 / 信创场景：昇腾 910B2、真武 810E，满足自主可控需求。

按交付方式选模式

• 容器化：轻量、弹性、按需付费，分钟级启动。适合推理服务、开发测试、小批量实验。相当于"物理共享，逻辑隔离"，成本低。
• 裸金属：独占整台物理机，无虚拟化损耗，数据全程在专属硬件处理。适合高负载训练、企业级合规场景，支持按月付费。

计费周期建议

• 调试代码、验证想法：按小时，随时释放。
• 连续训练 3-7 天：包周，单价低于按小时。
• 长期项目（一个月以上）：包月，成本最优。

四、避坑指南：这几个细节不注意，钱会悄悄溜走

租 GPU 最大的坑不是"不会用"，而是**"以为停了就不花钱"**。根据立方云的计费规则，这几个点务必注意：

1. 停止 ≠ 不收费

停止容器只是关闭运行状态，GPU 算力费用仍会按原计费周期继续产生。只有"删除"才会真正释放 GPU 资源。如果暂时不用，要么删除实例（记得先备份 /workspace 数据），要么确认自己确实需要保留环境并承担费用。

2. 数据盘超额持续计费

20GB 免费额度之外的存储空间，即使容器停止也会按停止单价计费，直到删除容器并释放数据盘。所以定期清理不需要的数据和模型文件。

3. 数据别放系统盘

不要把重要代码、数据集放在 /、/tmp 或 /root 目录下，系统盘空间有限，且扩容不便。统一放 /workspace，支持单独扩容。

4. 多卡任务先确认库存

创建实例时如果选了多卡（比如 4 卡、8 卡），提交前确认页面是否有库存提示。热门卡型的多卡规格有时会比较紧张。

五、写在最后

GPU 租赁本质上是一种"算力轻量化"的选择。对于大部分开发者来说，把精力从"买卡、装机、配环境"解放出来，专注模型和业务本身，才是更划算的投入。

目前市面上的垂直算力平台已经做得相当成熟，从镜像预装到弹性计费，上手门槛比几年前低了很多。如果你正在选型，可以先从按小时的小规格实例试起，跑通流程后再根据任务规模升级配置。