计算机视觉 / 系统课时
检查 GPU 与 CUDA
检查 GPU 与 CUDA
本节不靠“装过 CUDA”来猜 GPU 是否可用,而是沿着显卡驱动、PyTorch CUDA 构建和实际张量分配三层逐级验证,最终得到一个可以直接用于 YOLO 训练的设备结论。
学习目标
- 用
nvidia-smi确认 NVIDIA 驱动是否识别显卡 - 区分驱动支持的 CUDA 版本与 PyTorch 自身的 CUDA 构建
- 用 PyTorch 实际创建 GPU 张量验证设备可用性
先分清三层 CUDA 信息
GPU 训练至少同时涉及物理显卡、NVIDIA 驱动和 PyTorch。nvidia-smi 看到显卡,只能证明驱动层基本正常;真正决定 Python 训练能否用 GPU 的关键检查是 torch.cuda.is_available(),它返回当前 PyTorch 进程是否可使用 CUDA。:contentReference[oaicite:1]{index=1}

检查驱动是否识别 GPU
先在宿主机终端执行 nvidia-smi。如果命令本身不存在或无法列出 GPU,应优先处理驱动安装、容器透传或远程机器权限,而不是先重装 Python 包。
nvidia-smi预期输出
NVIDIA-SMI <VALUE> Driver Version: <VALUE> CUDA Version: <VALUE>
GPU 0: <VALUE>NVIDIA 文档说明,nvidia-smi 中显示的 CUDA 版本表示当前驱动可支持的最高 CUDA 版本,通常不能直接当作本机已安装 Toolkit 或 PyTorch Runtime 的版本。:contentReference[oaicite:2]{index=2}
用 PyTorch 做实际设备验证
接着从当前训练虚拟环境执行一次完整探测。除了读取版本与设备数量,还要在 cuda:0 上真实创建张量;这一步成功,才说明当前 Python 环境具备最基本的 CUDA 运算能力。
python -c "import torch; print('torch:', torch.__version__); print('torch cuda:', torch.version.cuda); print('cuda available:', torch.cuda.is_available()); print('device count:', torch.cuda.device_count()); assert torch.cuda.is_available(), 'CUDA is not available'; print('device:', torch.cuda.get_device_name(0)); x=torch.rand((1024,1024), device='cuda:0'); print('tensor device:', x.device)"预期输出
torch: <VALUE>
torch cuda: <VALUE>
cuda available: True
device count: <VALUE>
device: <VALUE>
tensor device: cuda:0torch.version.cuda 反映当前 PyTorch 构建对应的 CUDA Runtime 版本;它不要求与 nvidia-smi 顶部显示的版本字符串完全相同,只要驱动兼容且实际张量能够成功分配即可。
按现象定位失败点
如果 nvidia-smi 失败,问题在 PyTorch 之前,先修复 NVIDIA 驱动或 GPU 透传。如果 nvidia-smi 正常但 torch.cuda.is_available() 为 False,先看 torch.version.cuda:若为 None,通常说明当前 PyTorch 不包含 CUDA 支持,应按 PyTorch 官方安装选择器重新安装适合本机的构建。:contentReference[oaicite:3]{index=3}
如果 CUDA 可用但训练时报显存不足,这已经不是“GPU 未识别”问题,而是模型、图片尺寸、batch 或其他显存占用导致。完成本节的验收标准很明确:驱动能看到 GPU,PyTorch 返回 CUDA 可用,并且张量最终位于 cuda:0。