大模型应用开发 / 系统课时
Linux 安装与环境验证
Linux 安装与环境验证
学习目标
完成本课后,你将能够:
- 在 Linux 中使用官方方式安装 Ollama
- 验证二进制文件、
systemd服务、监听端口和 API- 检查 Ollama 服务用户、模型目录和日志
- 根据架构、权限、驱动和临时目录问题定位安装失败
安装前检查
Linux 环境既可以手动运行 ollama serve,也可以使用 systemd 管理。服务器长期运行时,推荐使用系统服务,以获得开机启动、统一日志和自动重启能力。检查系统架构:
uname -m预期输出之一:
x86_64或:
aarch64检查基础工具:
for command in curl awk grep sed tee xargs; do
command -v "$command" >/dev/null || echo "missing: $command"
done预期输出:
无输出。无输出表示这些命令均存在。若出现 missing: <COMMAND>,先使用发行版包管理器安装缺失工具。检查磁盘和内存:
df -h /
free -h预期输出示例:
Filesystem Size Used Avail Use% Mounted on
<DEVICE> <SIZE> <USED> <FREE> <PERCENT> /
total used free shared buff/cache available
Mem: <TOTAL> <USED> <FREE> <SHARED> <CACHE> <AVAILABLE>
Swap: <TOTAL> <USED> <FREE>模型存储会持续增长,应根据计划使用的模型额外预留空间。
使用官方安装脚本
执行:
curl -fsSL https://ollama.com/install.sh | sh预期输出:
>>> Installing ollama to <INSTALL_PREFIX>
...
>>> The Ollama API is now available at 127.0.0.1:11434.
...安装脚本输出会随系统、架构、GPU 和版本变化。验收标准是命令退出码为 0,并提示安装完成或服务可用。
如果当前用户不是 root,安装过程可能调用 sudo。应先确认当前账号拥有提权权限。
验证二进制文件
command -v ollama
ollama --version预期输出:
<OLLAMA_BINARY_PATH>
ollama version is <VERSION>常见路径为 /usr/local/bin/ollama 或 /usr/bin/ollama,具体取决于系统 PATH 和安装位置。检查文件类型:
file "$(command -v ollama)"预期输出示例:
<OLLAMA_BINARY_PATH>: ELF <ARCHITECTURE> executable, ...架构应与 uname -m 对应。若出现“Exec format error”,优先检查是否安装了错误架构的软件包。
验证 systemd 服务
检查服务状态:
sudo systemctl status ollama --no-pager预期输出应包含:
● ollama.service - Ollama Service
Loaded: loaded (...)
Active: active (running) since <TIME>
Main PID: <PID> (ollama)动态时间、PID 和路径会不同。验收标准是 Active: active (running)。检查是否开机启用:
systemctl is-enabled ollama预期输出:
enabled如果服务尚未启动:
sudo systemctl enable --now ollama预期结果:
命令正常结束;systemctl is-active ollama 输出 active。验证活动状态:
systemctl is-active ollama预期输出:
active检查服务配置和运行用户
查看服务文件:
systemctl cat ollama预期输出中应能看到:
[Service]
ExecStart=<OLLAMA_BINARY_PATH> serve
User=ollama
Group=ollama
Restart=always实际路径和环境变量可能不同。重点确认:
ExecStart指向有效二进制文件。- 服务以预期用户运行。
- 重启策略存在。
- 自定义环境变量没有拼写错误。
检查服务用户:
id ollama预期输出示例:
uid=<UID>(ollama) gid=<GID>(ollama) groups=<GROUPS>查看进程用户:
ps -o user,pid,ppid,cmd -C ollama预期输出示例:
USER PID PPID CMD
ollama <PID> <PPID> <OLLAMA_BINARY_PATH> serve验证端口和 API
使用 ss 检查监听端口:
sudo ss -lntp | grep ':11434'预期输出示例:
LISTEN 0 4096 127.0.0.1:11434 0.0.0.0:* users:(("ollama",pid=<PID>,fd=<FD>))默认安装通常只允许本机访问。不要在本课中为了测试方便直接监听公网地址;远程访问和安全代理将在后续章节专门处理。验证 API:
curl --fail --silent --show-error http://localhost:11434/api/tags新安装且尚未下载模型时,预期输出可能是:
{"models":[]}查看状态码:
curl --silent --output /dev/null --write-out "%{http_code}\n" \
http://localhost:11434/api/tags预期输出:
200查看 systemd 日志
查看最近日志:
sudo journalctl -u ollama -n 100 --no-pager预期输出:
<最近 100 行 Ollama 服务日志>实时观察:
sudo journalctl -u ollama --no-pager --follow --pager-end预期结果:
终端持续等待并输出新增日志,按 Control+C 结束。当服务启动失败时,日志通常比反复重装更能说明原因。重点查看:
- 二进制路径不存在
- 端口已占用
- 模型目录无权限
- GPU 发现失败
- 临时目录不可执行
- 环境变量格式错误
检查模型目录权限
标准服务安装的模型通常位于:
/usr/share/ollama/.ollama/models检查目录:
sudo ls -ld /usr/share/ollama /usr/share/ollama/.ollama \
/usr/share/ollama/.ollama/models 2>/dev/null预期输出示例:
drwxr-xr-x <LINKS> ollama ollama <SIZE> <DATE> /usr/share/ollama
drwx------ <LINKS> ollama ollama <SIZE> <DATE> /usr/share/ollama/.ollama
drwx------ <LINKS> ollama ollama <SIZE> <DATE> /usr/share/ollama/.ollama/models权限会因系统和版本变化。关键是服务用户 ollama 对模型目录拥有读写权限。
若自定义 OLLAMA_MODELS,应创建目录并授予服务用户权限:
sudo mkdir -p /data/ollama-models
sudo chown -R ollama:ollama /data/ollama-models
sudo chmod 750 /data/ollama-models预期结果:
命令正常结束;ls -ld /data/ollama-models 显示所有者和组为 ollama。设置 systemd 环境变量:
sudo systemctl edit ollama在编辑器中写入:
[Service]
Environment="OLLAMA_MODELS=/data/ollama-models"这是配置片段,保存后执行:
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl is-active ollama预期输出:
activeGPU 基础验证
NVIDIA 设备先验证驱动:
nvidia-smi预期输出中应包含:
NVIDIA-SMI <VERSION>
Driver Version: <DRIVER_VERSION>
CUDA Version: <CUDA_VERSION>
...
<GPU_NAME>AMD 设备需要正确的内核驱动和 ROCm 支持。仅检测到 PCI 设备不代表 Ollama 已能使用 GPU。运行模型后执行:
ollama ps预期输出示例:
NAME ID SIZE PROCESSOR CONTEXT UNTIL
<MODEL> <MODEL_ID> <SIZE> <PROCESSOR> <CONTEXT> <UNTIL>PROCESSOR 用于判断实际 CPU/GPU 分布。
常见安装问题
1. 安装脚本无法执行
检查网络和 TLS:
curl -I https://ollama.com/install.sh预期输出中应包含成功的 HTTP 状态。具体状态和响应头可能随跳转策略变化。
若企业网络需要代理,应正确配置 HTTPS_PROXY,并确保证书受系统信任。
2. systemd 显示 failed
执行:
sudo systemctl status ollama --no-pager
sudo journalctl -u ollama -n 100 --no-pager预期结果:
状态输出给出退出码,日志输出给出具体失败原因。修复后执行:
sudo systemctl reset-failed ollama
sudo systemctl restart ollama预期结果:
systemctl is-active ollama 输出 active。3. 临时目录带 noexec
检查挂载参数:
findmnt -no TARGET,OPTIONS /tmp预期输出示例:
/tmp rw,nosuid,nodev,noexec,...如果存在 noexec 并导致临时执行失败,应为服务设置可写且允许执行的 OLLAMA_TMPDIR,再重启服务。
4. 服务用户无法写入模型目录
检查:
sudo -u ollama test -w /data/ollama-models && echo writable预期输出:
writable若没有输出或返回非零状态,修复所有者、组和目录权限。
5. 端口冲突
sudo ss -lntp | grep ':11434'若显示其他程序占用端口,先识别进程,不要直接结束未知服务。
本课练习
练习 1:完成 Linux 安装验收
任务目标:证明 Ollama 已由 systemd 正常管理。初始条件:已执行安装脚本。
实现要求:验证二进制、版本、服务活动状态、开机启用、端口和 API。
验收条件:六项结果全部保存,并能解释它们分别验证的层次。
练习 2:迁移模型目录
任务目标:让服务用户使用独立数据盘。初始条件:存在 /data/ollama-models 或其他目标目录。
实现要求:设置所有者、权限和 OLLAMA_MODELS,然后重启并验证。
验收条件:服务保持 active,测试模型写入新目录。
练习 3:排查服务启动失败
任务目标:建立 systemd 故障定位流程。初始条件:假设 systemctl status 显示 failed。
实现要求:依次检查服务文件、二进制、端口、权限和日志。
验收条件:每个检查点都有命令、判断标准和修复后的验证命令。