如果你想把自己的小实验跑上云，干把沉甸甸的 GPU 费用变成弹性配置、按耗费计费，一把握住云服务器的几步“神操作”，你就能像玩游戏一样体验训练大模型的快感。别紧张，先把大局下好，以下把云跑 NN 的核心步骤拆解，你只需要按图索骥，在好几家主流云服务商之间挑一把你最舒服的“车”就行——AWS、阿里云、腾讯云，炒作一阵的 GCP 也不容小觑(来源1-3)。
### 先选好你的小跑车 云服务器的“跑车”不止表面功率，算是 GPU 型号、显存大小、NVLink 接口等关键指标。常见的 GPU 实例有 NVIDIA Tesla T4、P4、V100、A100，重量级的 A100 可达 80GB，适合深度模型预训练，A100 通常在 GPU 市场被归为“神机”（来源4）。如果你是小白，T4 或 P4 就足够跑 ImageNet、CIFAR、BERT 之类的模型，性价比杠杠卡。
### 整体结构：云主机 + 存储 + 网络 主机的机型选好后，就得挂载存储了。云存储统一分为对象存储（S3、OSS、Google Cloud Storage）和块存储（EBS、云盘）。大多数基准实验建议把大文件（大模型、原始数据）放到对象存储，训练时直接把数据流式读入内存，这样既节省大量磁盘 IO 又能降低成本(来源5)。要注意的是，所谓 “对象存储”的访问速度相对慢一点，若训练频繁读取小文件，可使用临时块存储挂载一次。
### 把系统弄好：Ubuntu + Docker
Ubuntu 20.04 LTS 是绝大多数深度学习框架的默认兼容版本。Docker 可以把你所有依赖、框架、CUDA 包装成镜像，方便部署。先装好 Docker，接着跑官方的 tensorflow/tensorflow:latest-gpu 或 pytorch/pytorch:latest 镜像，验证 nvidia-smi