大模型原理与训练 / 系统课时
搭建 GPU 微调开发环境
搭建 GPU 微调开发环境
本节搭建一套可复现的 GPU 微调环境:先确认驱动、GPU 与 Python,再创建隔离环境并安装 PyTorch、Transformers、PEFT、TRL、Accelerate 和量化依赖,最后用真实 CUDA 张量运算验证环境并保存完整依赖快照。
学习目标
- 检查 GPU、驱动与 Python 是否满足微调环境的基本条件
- 在独立虚拟环境中安装训练、参数高效微调和量化依赖
- 验证 CUDA 可用性,并冻结当前依赖组合以便复现实验
先确认 GPU 与 Python
下面以 Linux、NVIDIA GPU 和 Python 3.11 为参考环境。先确认系统能看到 GPU,并记录驱动和显存;如果 nvidia-smi 本身失败,优先修复驱动或容器的 GPU 映射,不要直接用 Python 包安装去“补 CUDA”。
nvidia-smi --query-gpu=name,driver_version,memory.total --format=csv,noheader
python3 --version预期输出
<GPU_NAME>, <DRIVER_VERSION>, <VRAM_MIB> MiB
Python 3.11.<PATCH>实际 GPU 名称、驱动版本、显存和 Python 补丁版本会不同。微调项目最好把这些信息和依赖快照一起保存,因为“同一份代码”在不同驱动、PyTorch 构建或 GPU 架构上仍可能表现不同。
创建隔离环境并安装依赖
在项目根目录创建 .venv,避免系统 Python 与其他机器学习项目相互污染。这里一次安装课程后续会用到的核心栈;bitsandbytes 用于常见的 8-bit/4-bit 量化训练路径。
python3 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
python -m pip install torch transformers peft trl accelerate bitsandbytes
python -m pip check
python -m pip freeze > requirements.lock.txt
python - <<'PY'
import torch
import transformers
import peft
import trl
import accelerate
import bitsandbytes
print("torch=" + torch.__version__)
print("transformers=" + transformers.__version__)
print("peft=" + peft.__version__)
print("trl=" + trl.__version__)
print("accelerate=" + accelerate.__version__)
print("bitsandbytes=" + bitsandbytes.__version__)
print("cuda_available=" + str(torch.cuda.is_available()))
print("torch_cuda=" + str(torch.version.cuda))
if not torch.cuda.is_available():
raise SystemExit("CUDA is not available")
x = torch.tensor([1.0, 2.0], device="cuda")
print("gpu_test=" + str((x * 2).tolist()))
print("gpu_name=" + torch.cuda.get_device_name(0))
PY预期输出
No broken requirements found.
torch=<VERSION>
transformers=<VERSION>
peft=<VERSION>
trl=<VERSION>
accelerate=<VERSION>
bitsandbytes=<VERSION>
cuda_available=True
torch_cuda=<CUDA_VERSION>
gpu_test=[2.0, 4.0]
gpu_name=<GPU_NAME>安装过程中的下载日志会因平台和包版本不同而变化;这里真正需要核对的是 pip check 没有依赖冲突、六个核心库都能导入、cuda_available=True,并且张量可以在 GPU 上完成实际运算。
固定依赖组合
requirements.lock.txt 是当前环境的完整快照,不应只手写六个顶层包,因为间接依赖变化同样可能影响复现。提交代码时同时保存这个文件;在另一台机器上复现实验时,先建立新的虚拟环境,再从快照安装。
python3 -m venv .venv-repro
source .venv-repro/bin/activate
python -m pip install --upgrade pip
python -m pip install -r requirements.lock.txt
python -m pip check预期输出
No broken requirements found.依赖快照只解决 Python 包版本问题,不能替代驱动、GPU 型号和系统信息。因此实验记录还应包含前面采集的驱动版本、GPU 型号以及训练脚本使用的精度和量化配置。
处理最常见的环境失败
如果 torch.cuda.is_available() 为 False,先回到 nvidia-smi。系统层看不到 GPU 时应修复驱动、容器运行参数或设备映射;系统层正常而 PyTorch 看不到 GPU 时,再检查是否安装了适合当前平台的 PyTorch 构建。不要通过随机升级一串包来碰运气。
如果导入 bitsandbytes 报错,而普通 PyTorch CUDA 运算已经成功,问题通常集中在量化库与当前平台、GPU 架构或 CUDA 运行时的兼容性。先单独解决这一层,再开始 QLoRA;LoRA 本身不要求 4-bit 量化库正常工作。