大模型应用开发 / 系统课时

认识 Modelfile 结构

认识 Modelfile 结构

学习目标

完成本课后,你将能够:

  • 说明 Modelfile 在自定义模型中的作用
  • 识别 FROM、SYSTEM、PARAMETER 等核心指令
  • 使用 ollama create 构建模型
  • 通过 show --modelfile 检查构建结果

Modelfile 是模型蓝图

Modelfile 是文本配置文件,用于定义基础模型、系统提示词、运行参数、模板、适配器和许可证等信息。它不会重新训练基础模型,而是把运行配置和模型组件组合为一个新的本地模型名称。

核心指令

指令 作用
FROM 指定基础模型、GGUF 文件或 Safetensors 目录,必填
SYSTEM 设置默认系统消息
PARAMETER 固化上下文、温度、停止词等运行参数
TEMPLATE 定义模型实际接收的提示词模板
ADAPTER 加载 LoRA 或兼容适配器
LICENSE 记录许可证文本
MESSAGE 预置消息历史
REQUIRES 指定最低 Ollama 版本要求

指令是否适合当前模型,需要结合模型模板和架构验证。

最小 Modelfile

创建文件 Modelfile:

text
FROM gemma3:1b

SYSTEM """
你是 Anystack 技术助教。
使用中文回答,优先给出可验证步骤。
"""

PARAMETER temperature 0
PARAMETER num_ctx 4096

这是配置文件,不是 Shell 脚本。三引号用于多行字符串。

构建模型

执行:

bash
ollama create anystack-tutor:v1 -f Modelfile

预期输出结构:

text
gathering model components
using existing layer <DIGEST>
creating new layer <DIGEST>
writing manifest
success

具体日志和分层数量会变化。最终出现 success 表示构建完成。

运行与验证

执行:

bash
ollama run anystack-tutor:v1 "你是谁?"

预期输出:

text
<RESPONSE_REFLECTING_SYSTEM_PROMPT>

查看详情:

bash
ollama show --modelfile anystack-tutor:v1

预期输出中应包含:

text
FROM <BASE_OR_BLOB>
SYSTEM """
你是 Anystack 技术助教。
...
"""
PARAMETER temperature 0
PARAMETER num_ctx 4096

注释与文件位置

Modelfile 使用 # 写注释:

text
# 固定基础模型,便于复现
FROM gemma3:1b

相对路径通常以 Modelfile 所在位置为基准。项目应把 Modelfile、README、测试集和许可证记录纳入版本控制,但不要把受限权重或密钥错误提交到代码仓库。

构建与运行的关系

ollama create 把蓝图注册为本地模型。后续 ollama run anystack-tutor:v1 不需要每次重新读取项目目录中的 Modelfile。

修改 Modelfile 后必须再次执行 ollama create 才会生成新结果。生产中建议增加版本标签,而不是覆盖唯一名称后无法回退。

常见错误

  • 缺少 FROM:无法确定基础模型。
  • 文件名或 -f 路径错误:CLI 找不到配置。
  • 指令拼写错误:构建失败。
  • 路径含不可访问文件:服务用户无权限。
  • 模板与基础模型不兼容:构建成功但回答异常。
  • 直接覆盖生产标签:难以回滚和比较。

本课练习

练习 1:创建技术助教模型

任务目标:完成最小构建流程。输入或初始条件:本地已有 gemma3:1b。实现要求:编写 SYSTEM 和两个参数并构建

验收条件:show --modelfile 能还原配置。

练习 2:修改后重新构建

任务目标:理解配置生效时机。输入或初始条件:已有 anystack-tutor:v1。实现要求:修改系统消息并创建 v2。验收条件:两个版本均可运行且行为可比较。

练习 3:建立项目目录

任务目标:管理自定义模型资产。输入或初始条件:准备一个新目录。

实现要求:包含 Modelfile、README、测试集和许可证记录。验收条件:不包含模型密钥和不允许分发的权重。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

认识 Modelfile 结构

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通