大模型原理与训练 / 系统课时
准备 Python 与 PyTorch 环境
准备 Python 与 PyTorch 环境
这一步的目标不是追求“装上最新版”,而是建立一个可重复验证的运行环境:Python 能创建隔离环境,PyTorch 与 Transformers 能正常导入,并且程序能明确判断当前应使用 CPU、NVIDIA CUDA 还是 Apple MPS。
学习目标
- 创建隔离的 Python 环境并安装 PyTorch 与 Transformers。
- 用实际张量运算验证 CPU、CUDA 或 MPS 设备是否可用。
- 根据检测结果定位 Python、驱动、PyTorch 构建与硬件之间的兼容问题。
建立最小隔离环境
建议每个项目使用独立虚拟环境,避免系统 Python 中已有包把版本冲突隐藏起来。下面以 macOS 或 Linux 的 Bash 为例;安装 PyTorch 时如果目标是 NVIDIA GPU,应优先按 PyTorch 官方安装选择器生成与当前平台匹配的命令,而不是随意混装不同 CUDA 构建。
python -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
python -m pip install torch transformers
python - <<'PY'
import sys
import torch
import transformers
cuda_ok = torch.cuda.is_available()
mps_ok = hasattr(torch.backends, "mps") and torch.backends.mps.is_available()
device = torch.device("cuda" if cuda_ok else "mps" if mps_ok else "cpu")
# 真正在选定设备上执行一次运算,避免只验证“能导入”。
x = torch.tensor([0.0, 1.0, 2.0, 3.0], device=device)
print(f"python={sys.version_info.major}.{sys.version_info.minor}")
print(f"torch={torch.__version__}")
print(f"transformers={transformers.__version__}")
print(f"cuda_available={cuda_ok}")
print(f"mps_available={mps_ok}")
print(f"device={device}")
print(f"sum={x.sum().item()}")
PY预期输出:
python=<VERSION>
torch=<VERSION>
transformers=<VERSION>
cuda_available=<BOOL>
mps_available=<BOOL>
device=<DEVICE>
sum=6.0其中 <VERSION>、<BOOL> 与 <DEVICE> 取决于实际环境;最后一行固定为 6.0,说明张量已在选中的设备上完成计算。
选择 CPU、CUDA 或 MPS
设备选择应以运行时检测为准,而不是只看机器型号。CUDA 适用于 PyTorch 能访问的 NVIDIA GPU;MPS 适用于满足 PyTorch MPS 条件的 macOS 设备;其他情况回退到 CPU。CPU 速度可能较慢,但也是排除驱动和加速后端问题时最稳定的基线。

按症状定位兼容问题
如果 import torch 就失败,先检查虚拟环境是否激活、Python 架构是否正确,以及包是否安装在当前解释器中。使用 python -m pip 比直接调用 pip 更容易避免装到另一个 Python。
如果 NVIDIA 机器得到 cuda_available=False,重点核对驱动是否可用、安装的 PyTorch 构建是否支持目标 CUDA 后端,以及当前进程是否能看到 GPU。不要把 Transformers 版本冲突和 CUDA 驱动问题混在一起处理。
如果 macOS 得到 mps_available=False,则检查当前 PyTorch 是否包含 MPS 支持,以及系统与硬件是否满足要求。暂时改用 CPU 可以验证上层 Transformers 代码是否本身正常。
最终环境应满足三个条件:库能导入、设备检测结果符合预期、张量能在所选设备上完成运算。完成这三项后,再进入模型下载与推理,后续故障的定位范围会小很多。