计算机视觉 / 系统课时

检查 GPU 与 CUDA

检查 GPU 与 CUDA

本节不靠“装过 CUDA”来猜 GPU 是否可用,而是沿着显卡驱动、PyTorch CUDA 构建和实际张量分配三层逐级验证,最终得到一个可以直接用于 YOLO 训练的设备结论。

学习目标

  • 用 nvidia-smi 确认 NVIDIA 驱动是否识别显卡
  • 区分驱动支持的 CUDA 版本与 PyTorch 自身的 CUDA 构建
  • 用 PyTorch 实际创建 GPU 张量验证设备可用性

先分清三层 CUDA 信息

GPU 训练至少同时涉及物理显卡、NVIDIA 驱动和 PyTorch。nvidia-smi 看到显卡,只能证明驱动层基本正常;真正决定 Python 训练能否用 GPU 的关键检查是 torch.cuda.is_available(),它返回当前 PyTorch 进程是否可使用 CUDA。:contentReference[oaicite:1]{index=1}

GPU、驱动与 PyTorch CUDA 检查链路

检查驱动是否识别 GPU

先在宿主机终端执行 nvidia-smi。如果命令本身不存在或无法列出 GPU,应优先处理驱动安装、容器透传或远程机器权限,而不是先重装 Python 包。

bash
nvidia-smi

预期输出

text
NVIDIA-SMI <VALUE>    Driver Version: <VALUE>    CUDA Version: <VALUE>
GPU 0: <VALUE>

NVIDIA 文档说明,nvidia-smi 中显示的 CUDA 版本表示当前驱动可支持的最高 CUDA 版本,通常不能直接当作本机已安装 Toolkit 或 PyTorch Runtime 的版本。:contentReference[oaicite:2]{index=2}

用 PyTorch 做实际设备验证

接着从当前训练虚拟环境执行一次完整探测。除了读取版本与设备数量,还要在 cuda:0 上真实创建张量;这一步成功,才说明当前 Python 环境具备最基本的 CUDA 运算能力。

bash
python -c "import torch; print('torch:', torch.__version__); print('torch cuda:', torch.version.cuda); print('cuda available:', torch.cuda.is_available()); print('device count:', torch.cuda.device_count()); assert torch.cuda.is_available(), 'CUDA is not available'; print('device:', torch.cuda.get_device_name(0)); x=torch.rand((1024,1024), device='cuda:0'); print('tensor device:', x.device)"

预期输出

text
torch: <VALUE>
torch cuda: <VALUE>
cuda available: True
device count: <VALUE>
device: <VALUE>
tensor device: cuda:0

torch.version.cuda 反映当前 PyTorch 构建对应的 CUDA Runtime 版本;它不要求与 nvidia-smi 顶部显示的版本字符串完全相同,只要驱动兼容且实际张量能够成功分配即可。

按现象定位失败点

如果 nvidia-smi 失败,问题在 PyTorch 之前,先修复 NVIDIA 驱动或 GPU 透传。如果 nvidia-smi 正常但 torch.cuda.is_available() 为 False,先看 torch.version.cuda:若为 None,通常说明当前 PyTorch 不包含 CUDA 支持,应按 PyTorch 官方安装选择器重新安装适合本机的构建。:contentReference[oaicite:3]{index=3}

如果 CUDA 可用但训练时报显存不足,这已经不是“GPU 未识别”问题,而是模型、图片尺寸、batch 或其他显存占用导致。完成本节的验收标准很明确:驱动能看到 GPU,PyTorch 返回 CUDA 可用,并且张量最终位于 cuda:0。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

检查 GPU 与 CUDA

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通