大模型原理与训练 / 系统课时

搭建 GPU 微调开发环境

搭建 GPU 微调开发环境

本节搭建一套可复现的 GPU 微调环境:先确认驱动、GPU 与 Python,再创建隔离环境并安装 PyTorch、Transformers、PEFT、TRL、Accelerate 和量化依赖,最后用真实 CUDA 张量运算验证环境并保存完整依赖快照。

学习目标

  • 检查 GPU、驱动与 Python 是否满足微调环境的基本条件
  • 在独立虚拟环境中安装训练、参数高效微调和量化依赖
  • 验证 CUDA 可用性,并冻结当前依赖组合以便复现实验

先确认 GPU 与 Python

下面以 Linux、NVIDIA GPU 和 Python 3.11 为参考环境。先确认系统能看到 GPU,并记录驱动和显存;如果 nvidia-smi 本身失败,优先修复驱动或容器的 GPU 映射,不要直接用 Python 包安装去“补 CUDA”。

bash
nvidia-smi --query-gpu=name,driver_version,memory.total --format=csv,noheader
python3 --version

预期输出

text
<GPU_NAME>, <DRIVER_VERSION>, <VRAM_MIB> MiB
Python 3.11.<PATCH>

实际 GPU 名称、驱动版本、显存和 Python 补丁版本会不同。微调项目最好把这些信息和依赖快照一起保存,因为“同一份代码”在不同驱动、PyTorch 构建或 GPU 架构上仍可能表现不同。

创建隔离环境并安装依赖

在项目根目录创建 .venv,避免系统 Python 与其他机器学习项目相互污染。这里一次安装课程后续会用到的核心栈;bitsandbytes 用于常见的 8-bit/4-bit 量化训练路径。

bash
python3 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
python -m pip install torch transformers peft trl accelerate bitsandbytes
python -m pip check
python -m pip freeze > requirements.lock.txt
python - <<'PY'
import torch
import transformers
import peft
import trl
import accelerate
import bitsandbytes

print("torch=" + torch.__version__)
print("transformers=" + transformers.__version__)
print("peft=" + peft.__version__)
print("trl=" + trl.__version__)
print("accelerate=" + accelerate.__version__)
print("bitsandbytes=" + bitsandbytes.__version__)
print("cuda_available=" + str(torch.cuda.is_available()))
print("torch_cuda=" + str(torch.version.cuda))

if not torch.cuda.is_available():
    raise SystemExit("CUDA is not available")

x = torch.tensor([1.0, 2.0], device="cuda")
print("gpu_test=" + str((x * 2).tolist()))
print("gpu_name=" + torch.cuda.get_device_name(0))
PY

预期输出

text
No broken requirements found.
torch=<VERSION>
transformers=<VERSION>
peft=<VERSION>
trl=<VERSION>
accelerate=<VERSION>
bitsandbytes=<VERSION>
cuda_available=True
torch_cuda=<CUDA_VERSION>
gpu_test=[2.0, 4.0]
gpu_name=<GPU_NAME>

安装过程中的下载日志会因平台和包版本不同而变化;这里真正需要核对的是 pip check 没有依赖冲突、六个核心库都能导入、cuda_available=True,并且张量可以在 GPU 上完成实际运算。

固定依赖组合

requirements.lock.txt 是当前环境的完整快照,不应只手写六个顶层包,因为间接依赖变化同样可能影响复现。提交代码时同时保存这个文件;在另一台机器上复现实验时,先建立新的虚拟环境,再从快照安装。

bash
python3 -m venv .venv-repro
source .venv-repro/bin/activate
python -m pip install --upgrade pip
python -m pip install -r requirements.lock.txt
python -m pip check

预期输出

text
No broken requirements found.

依赖快照只解决 Python 包版本问题,不能替代驱动、GPU 型号和系统信息。因此实验记录还应包含前面采集的驱动版本、GPU 型号以及训练脚本使用的精度和量化配置。

处理最常见的环境失败

如果 torch.cuda.is_available() 为 False,先回到 nvidia-smi。系统层看不到 GPU 时应修复驱动、容器运行参数或设备映射;系统层正常而 PyTorch 看不到 GPU 时,再检查是否安装了适合当前平台的 PyTorch 构建。不要通过随机升级一串包来碰运气。

如果导入 bitsandbytes 报错,而普通 PyTorch CUDA 运算已经成功,问题通常集中在量化库与当前平台、GPU 架构或 CUDA 运行时的兼容性。先单独解决这一层,再开始 QLoRA;LoRA 本身不要求 4-bit 量化库正常工作。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

搭建 GPU 微调开发环境

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通