大模型应用开发 / 系统课时
认识 Modelfile 结构
认识 Modelfile 结构
学习目标
完成本课后,你将能够:
- 说明 Modelfile 在自定义模型中的作用
- 识别
FROM、SYSTEM、PARAMETER等核心指令- 使用
ollama create构建模型- 通过
show --modelfile检查构建结果
Modelfile 是模型蓝图
Modelfile 是文本配置文件,用于定义基础模型、系统提示词、运行参数、模板、适配器和许可证等信息。它不会重新训练基础模型,而是把运行配置和模型组件组合为一个新的本地模型名称。
核心指令
| 指令 | 作用 |
|---|---|
FROM |
指定基础模型、GGUF 文件或 Safetensors 目录,必填 |
SYSTEM |
设置默认系统消息 |
PARAMETER |
固化上下文、温度、停止词等运行参数 |
TEMPLATE |
定义模型实际接收的提示词模板 |
ADAPTER |
加载 LoRA 或兼容适配器 |
LICENSE |
记录许可证文本 |
MESSAGE |
预置消息历史 |
REQUIRES |
指定最低 Ollama 版本要求 |
指令是否适合当前模型,需要结合模型模板和架构验证。
最小 Modelfile
创建文件 Modelfile:
FROM gemma3:1b
SYSTEM """
你是 Anystack 技术助教。
使用中文回答,优先给出可验证步骤。
"""
PARAMETER temperature 0
PARAMETER num_ctx 4096这是配置文件,不是 Shell 脚本。三引号用于多行字符串。
构建模型
执行:
ollama create anystack-tutor:v1 -f Modelfile预期输出结构:
gathering model components
using existing layer <DIGEST>
creating new layer <DIGEST>
writing manifest
success具体日志和分层数量会变化。最终出现 success 表示构建完成。
运行与验证
执行:
ollama run anystack-tutor:v1 "你是谁?"预期输出:
<RESPONSE_REFLECTING_SYSTEM_PROMPT>查看详情:
ollama show --modelfile anystack-tutor:v1预期输出中应包含:
FROM <BASE_OR_BLOB>
SYSTEM """
你是 Anystack 技术助教。
...
"""
PARAMETER temperature 0
PARAMETER num_ctx 4096注释与文件位置
Modelfile 使用 # 写注释:
# 固定基础模型,便于复现
FROM gemma3:1b相对路径通常以 Modelfile 所在位置为基准。项目应把 Modelfile、README、测试集和许可证记录纳入版本控制,但不要把受限权重或密钥错误提交到代码仓库。
构建与运行的关系
ollama create 把蓝图注册为本地模型。后续 ollama run anystack-tutor:v1 不需要每次重新读取项目目录中的 Modelfile。
修改 Modelfile 后必须再次执行 ollama create 才会生成新结果。生产中建议增加版本标签,而不是覆盖唯一名称后无法回退。
常见错误
- 缺少
FROM:无法确定基础模型。 - 文件名或
-f路径错误:CLI 找不到配置。 - 指令拼写错误:构建失败。
- 路径含不可访问文件:服务用户无权限。
- 模板与基础模型不兼容:构建成功但回答异常。
- 直接覆盖生产标签:难以回滚和比较。
本课练习
练习 1:创建技术助教模型
任务目标:完成最小构建流程。输入或初始条件:本地已有 gemma3:1b。实现要求:编写 SYSTEM 和两个参数并构建
验收条件:show --modelfile 能还原配置。
练习 2:修改后重新构建
任务目标:理解配置生效时机。输入或初始条件:已有 anystack-tutor:v1。实现要求:修改系统消息并创建 v2。验收条件:两个版本均可运行且行为可比较。
练习 3:建立项目目录
任务目标:管理自定义模型资产。输入或初始条件:准备一个新目录。
实现要求:包含 Modelfile、README、测试集和许可证记录。验收条件:不包含模型密钥和不允许分发的权重。