大模型应用开发 / 系统课时

Linux 安装与环境验证

Linux 安装与环境验证

学习目标

完成本课后,你将能够:

  • 在 Linux 中使用官方方式安装 Ollama
  • 验证二进制文件、systemd 服务、监听端口和 API
  • 检查 Ollama 服务用户、模型目录和日志
  • 根据架构、权限、驱动和临时目录问题定位安装失败

安装前检查

Linux 环境既可以手动运行 ollama serve,也可以使用 systemd 管理。服务器长期运行时,推荐使用系统服务,以获得开机启动、统一日志和自动重启能力。检查系统架构:

bash
uname -m

预期输出之一:

text
x86_64

或:

text
aarch64

检查基础工具:

bash
for command in curl awk grep sed tee xargs; do
  command -v "$command" >/dev/null || echo "missing: $command"
done

预期输出:

text
无输出。

无输出表示这些命令均存在。若出现 missing: <COMMAND>,先使用发行版包管理器安装缺失工具。检查磁盘和内存:

bash
df -h /
free -h

预期输出示例:

text
Filesystem    Size    Used    Avail    Use%    Mounted on
<DEVICE>      <SIZE>  <USED>  <FREE>   <PERCENT> /

               total    used    free    shared    buff/cache    available
Mem:           <TOTAL>  <USED>  <FREE>  <SHARED>  <CACHE>       <AVAILABLE>
Swap:          <TOTAL>  <USED>  <FREE>

模型存储会持续增长,应根据计划使用的模型额外预留空间。

使用官方安装脚本

执行:

bash
curl -fsSL https://ollama.com/install.sh | sh

预期输出:

text
>>> Installing ollama to <INSTALL_PREFIX>
...
>>> The Ollama API is now available at 127.0.0.1:11434.
...

安装脚本输出会随系统、架构、GPU 和版本变化。验收标准是命令退出码为 0,并提示安装完成或服务可用。

如果当前用户不是 root,安装过程可能调用 sudo。应先确认当前账号拥有提权权限。

验证二进制文件

bash
command -v ollama
ollama --version

预期输出:

text
<OLLAMA_BINARY_PATH>
ollama version is <VERSION>

常见路径为 /usr/local/bin/ollama 或 /usr/bin/ollama,具体取决于系统 PATH 和安装位置。检查文件类型:

bash
file "$(command -v ollama)"

预期输出示例:

text
<OLLAMA_BINARY_PATH>: ELF <ARCHITECTURE> executable, ...

架构应与 uname -m 对应。若出现“Exec format error”,优先检查是否安装了错误架构的软件包。

验证 systemd 服务

检查服务状态:

bash
sudo systemctl status ollama --no-pager

预期输出应包含:

text
● ollama.service - Ollama Service
     Loaded: loaded (...)
     Active: active (running) since <TIME>
   Main PID: <PID> (ollama)

动态时间、PID 和路径会不同。验收标准是 Active: active (running)。检查是否开机启用:

bash
systemctl is-enabled ollama

预期输出:

text
enabled

如果服务尚未启动:

bash
sudo systemctl enable --now ollama

预期结果:

text
命令正常结束;systemctl is-active ollama 输出 active。

验证活动状态:

bash
systemctl is-active ollama

预期输出:

text
active

检查服务配置和运行用户

查看服务文件:

bash
systemctl cat ollama

预期输出中应能看到:

text
[Service]
ExecStart=<OLLAMA_BINARY_PATH> serve
User=ollama
Group=ollama
Restart=always

实际路径和环境变量可能不同。重点确认:

  • ExecStart 指向有效二进制文件。
  • 服务以预期用户运行。
  • 重启策略存在。
  • 自定义环境变量没有拼写错误。

检查服务用户:

bash
id ollama

预期输出示例:

text
uid=<UID>(ollama) gid=<GID>(ollama) groups=<GROUPS>

查看进程用户:

bash
ps -o user,pid,ppid,cmd -C ollama

预期输出示例:

text
USER      PID      PPID    CMD
ollama    <PID>    <PPID>  <OLLAMA_BINARY_PATH> serve

验证端口和 API

使用 ss 检查监听端口:

bash
sudo ss -lntp | grep ':11434'

预期输出示例:

text
LISTEN 0 4096 127.0.0.1:11434 0.0.0.0:* users:(("ollama",pid=<PID>,fd=<FD>))

默认安装通常只允许本机访问。不要在本课中为了测试方便直接监听公网地址;远程访问和安全代理将在后续章节专门处理。验证 API:

bash
curl --fail --silent --show-error http://localhost:11434/api/tags

新安装且尚未下载模型时,预期输出可能是:

json
{"models":[]}

查看状态码:

bash
curl --silent --output /dev/null --write-out "%{http_code}\n" \
  http://localhost:11434/api/tags

预期输出:

text
200

查看 systemd 日志

查看最近日志:

bash
sudo journalctl -u ollama -n 100 --no-pager

预期输出:

text
<最近 100 行 Ollama 服务日志>

实时观察:

bash
sudo journalctl -u ollama --no-pager --follow --pager-end

预期结果:

text
终端持续等待并输出新增日志,按 Control+C 结束。

当服务启动失败时,日志通常比反复重装更能说明原因。重点查看:

  • 二进制路径不存在
  • 端口已占用
  • 模型目录无权限
  • GPU 发现失败
  • 临时目录不可执行
  • 环境变量格式错误

检查模型目录权限

标准服务安装的模型通常位于:

text
/usr/share/ollama/.ollama/models

检查目录:

bash
sudo ls -ld /usr/share/ollama /usr/share/ollama/.ollama \
  /usr/share/ollama/.ollama/models 2>/dev/null

预期输出示例:

text
drwxr-xr-x <LINKS> ollama ollama <SIZE> <DATE> /usr/share/ollama
drwx------ <LINKS> ollama ollama <SIZE> <DATE> /usr/share/ollama/.ollama
drwx------ <LINKS> ollama ollama <SIZE> <DATE> /usr/share/ollama/.ollama/models

权限会因系统和版本变化。关键是服务用户 ollama 对模型目录拥有读写权限。

若自定义 OLLAMA_MODELS,应创建目录并授予服务用户权限:

bash
sudo mkdir -p /data/ollama-models
sudo chown -R ollama:ollama /data/ollama-models
sudo chmod 750 /data/ollama-models

预期结果:

text
命令正常结束;ls -ld /data/ollama-models 显示所有者和组为 ollama。

设置 systemd 环境变量:

bash
sudo systemctl edit ollama

在编辑器中写入:

ini
[Service]
Environment="OLLAMA_MODELS=/data/ollama-models"

这是配置片段,保存后执行:

bash
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl is-active ollama

预期输出:

text
active

GPU 基础验证

NVIDIA 设备先验证驱动:

bash
nvidia-smi

预期输出中应包含:

text
NVIDIA-SMI <VERSION>
Driver Version: <DRIVER_VERSION>
CUDA Version: <CUDA_VERSION>
...
<GPU_NAME>

AMD 设备需要正确的内核驱动和 ROCm 支持。仅检测到 PCI 设备不代表 Ollama 已能使用 GPU。运行模型后执行:

bash
ollama ps

预期输出示例:

text
NAME       ID          SIZE      PROCESSOR    CONTEXT    UNTIL
<MODEL>    <MODEL_ID>  <SIZE>    <PROCESSOR>  <CONTEXT>  <UNTIL>

PROCESSOR 用于判断实际 CPU/GPU 分布。

常见安装问题

1. 安装脚本无法执行

检查网络和 TLS:

bash
curl -I https://ollama.com/install.sh

预期输出中应包含成功的 HTTP 状态。具体状态和响应头可能随跳转策略变化。

若企业网络需要代理,应正确配置 HTTPS_PROXY,并确保证书受系统信任。

2. systemd 显示 failed

执行:

bash
sudo systemctl status ollama --no-pager
sudo journalctl -u ollama -n 100 --no-pager

预期结果:

text
状态输出给出退出码,日志输出给出具体失败原因。

修复后执行:

bash
sudo systemctl reset-failed ollama
sudo systemctl restart ollama

预期结果:

text
systemctl is-active ollama 输出 active。

3. 临时目录带 noexec

检查挂载参数:

bash
findmnt -no TARGET,OPTIONS /tmp

预期输出示例:

text
/tmp rw,nosuid,nodev,noexec,...

如果存在 noexec 并导致临时执行失败,应为服务设置可写且允许执行的 OLLAMA_TMPDIR,再重启服务。

4. 服务用户无法写入模型目录

检查:

bash
sudo -u ollama test -w /data/ollama-models && echo writable

预期输出:

text
writable

若没有输出或返回非零状态,修复所有者、组和目录权限。

5. 端口冲突

bash
sudo ss -lntp | grep ':11434'

若显示其他程序占用端口,先识别进程,不要直接结束未知服务。

本课练习

练习 1:完成 Linux 安装验收

任务目标:证明 Ollama 已由 systemd 正常管理。初始条件:已执行安装脚本。

实现要求:验证二进制、版本、服务活动状态、开机启用、端口和 API。

验收条件:六项结果全部保存,并能解释它们分别验证的层次。

练习 2:迁移模型目录

任务目标:让服务用户使用独立数据盘。初始条件:存在 /data/ollama-models 或其他目标目录。

实现要求:设置所有者、权限和 OLLAMA_MODELS,然后重启并验证。

验收条件:服务保持 active,测试模型写入新目录。

练习 3:排查服务启动失败

任务目标:建立 systemd 故障定位流程。初始条件:假设 systemctl status 显示 failed。

实现要求:依次检查服务文件、二进制、端口、权限和日志。

验收条件:每个检查点都有命令、判断标准和修复后的验证命令。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

Linux 安装与环境验证

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通