大模型应用开发 / 系统课时

管理模型存储目录

管理模型存储目录

学习目标

完成本课后,你将能够:

  • 识别 Windows、macOS 和 Linux 的默认模型目录
  • 使用 OLLAMA_MODELS 设置自定义存储位置
  • 在停止服务后安全迁移模型数据
  • 使用 CLI 清理模型而不是直接破坏内容分层

默认存储位置

Ollama 官方文档列出的默认模型目录:

平台 默认路径
macOS ~/.ollama/models
Linux 标准服务 /usr/share/ollama/.ollama/models
Windows C:\Users\%username%\.ollama\models
Docker 官方容器 /root/.ollama 内的模型子目录

实际路径会受 OLLAMA_MODELS、运行用户、容器卷和安装方式影响。

为什么不能随意删除 blobs

模型存储采用清单和内容摘要分层。多个模型或标签可能共享部分内容。直接删除单个 blobs 文件可能导致一个或多个模型损坏,也会使清单与实际文件不一致。日常删除应优先使用:

bash
ollama rm <MODEL>

Ollama 可以根据模型引用关系处理本地数据。磁盘异常或存储修复应先备份并查看日志。

查看当前目录大小

Linux 或 macOS:

bash
MODEL_DIR="${OLLAMA_MODELS:-$HOME/.ollama/models}"
printf 'model_dir=%s\n' "$MODEL_DIR"
du -sh "$MODEL_DIR" 2>/dev/null || true
df -h "$MODEL_DIR" 2>/dev/null || df -h "$HOME"

预期输出示例:

text
model_dir=<MODEL_DIR>
<TOTAL_SIZE>    <MODEL_DIR>
Filesystem    Size    Used    Avail    Use%    Mounted on
<DEVICE>      <SIZE>  <USED>  <FREE>   <PERCENT> <MOUNT>

Linux systemd 服务的环境变量可能不在当前 shell 中,应通过 systemctl cat ollama 检查服务配置。

规划迁移步骤

安全迁移顺序:

  1. 记录 ollama list 和当前目录。
  2. 停止 Ollama 服务或桌面应用。
  3. 确认没有模型下载与写入。
  4. 创建目标目录。
  5. 复制数据并保留权限。
  6. 设置 OLLAMA_MODELS。
  7. 启动服务。
  8. 验证模型列表和实际推理。
  9. 保留旧目录一段观察期。
  10. 确认无误后再删除旧目录。

先复制、验证,再删除,比直接移动更容易回退。

Linux 服务迁移示例

停止服务并创建目标目录:

bash
sudo systemctl stop ollama
sudo mkdir -p /data/ollama-models
sudo rsync -aH --info=progress2   /usr/share/ollama/.ollama/models/   /data/ollama-models/
sudo chown -R ollama:ollama /data/ollama-models

预期结果:

text
数据复制完成,目标目录所有者为 ollama。

编辑服务环境:

bash
sudo systemctl edit ollama

写入配置片段:

ini
[Service]
Environment="OLLAMA_MODELS=/data/ollama-models"

配置保存后:

bash
sudo systemctl daemon-reload
sudo systemctl start ollama
systemctl is-active ollama
ollama list

预期输出:

text
active
<ORIGINAL_MODEL_LIST>

只有模型列表与推理测试均正常后,才能考虑清理旧目录。

Windows 迁移要点

创建目录并设置用户变量:

powershell
New-Item -ItemType Directory -Force -Path "D:\OllamaModels" | Out-Null
[Environment]::SetEnvironmentVariable(
    "OLLAMA_MODELS",
    "D:\OllamaModels",
    "User"
)

预期结果:

text
命令正常结束,用户级 OLLAMA_MODELS 指向 D:\OllamaModels。

应先从托盘退出 Ollama,再使用 robocopy 复制旧模型目录。复制后重新启动 Ollama,并通过 ollama list 与实际运行验证。

macOS 迁移要点

设置登录会话变量:

bash
mkdir -p "$HOME/OllamaModels"
launchctl setenv OLLAMA_MODELS "$HOME/OllamaModels"
launchctl getenv OLLAMA_MODELS

预期输出:

text
<HOME_PATH>/OllamaModels

退出并重启 Ollama 应用后生效。长期环境配置应纳入可维护的启动设置,升级后重新验证。

清理策略

推荐清理顺序:

  1. 使用 ollama list 找出不再使用的模型。
  2. 用 ollama rm 删除明确无引用的名称。
  3. 检查自定义模型源文件是否已备份。
  4. 清理失败下载前先重试 pull 和查看日志。
  5. 检查 Docker 是否存在未使用数据卷。
  6. 定期监控磁盘水位并设置告警。

不要把模型目录加入普通的“临时文件一键清理”脚本。

本课练习

练习 1:盘点模型存储

任务目标:确认真实路径和空间。输入或初始条件:当前设备已下载至少一个模型。实现要求:记录默认或自定义路径、目录大小和磁盘余量。验收条件:路径与实际运行用户一致。

练习 2:设计可回退迁移

任务目标:迁移到新磁盘。输入或初始条件:准备一个容量更大的目标目录。实现要求:写出停止、复制、配置、验证和回退步骤。验收条件:旧目录在验证完成前不删除。

练习 3:制定清理规则

任务目标:避免误删共享内容。输入或初始条件:模型目录占用持续增长。

实现要求:定义基于 list、业务引用和备份的清理流程。验收条件:不直接按文件时间删除 blobs。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

管理模型存储目录

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通