大模型应用开发 / 系统课时
定制提示词模板
定制提示词模板
学习目标
完成本课后,你将能够:
- 说明
TEMPLATE如何把系统消息和用户输入转换为模型文本- 识别
.System、.Prompt和.Response变量- 从基础模型导出现有模板
- 避免错误特殊标记导致角色混乱或无法停止
模板位于哪一层
聊天 API 提交的是结构化消息,模型最终处理的是 Token。TEMPLATE 负责把系统消息、用户提示和助手起始位置拼成模型训练时熟悉的格式。
模板属于模型协议。不同模型家族使用不同特殊标记,不能随意互换。
模板变量
官方 Modelfile 模板变量包括:
| 变量 | 作用 |
|---|---|
{{ .System }} |
系统消息 |
{{ .Prompt }} |
用户提示 |
{{ .Response }} |
模型响应位置;生成时其后的文本通常不再发送 |
模板使用 Go template 语法,可以通过条件判断决定是否输出某个部分。
先导出基础模板
执行:
ollama show --modelfile gemma3:1b > BaseModelfile预期结果:
当前目录生成 BaseModelfile,包含 FROM、TEMPLATE 和 PARAMETER 等信息。查看:
sed -n '1,160p' BaseModelfile预期输出:
<BASE_MODELFILE_CONTENT>Windows 可使用 Get-Content BaseModelfile。
简化模板示例
以下仅用于讲解 Go template 变量,不应直接套到未知模型:
FROM <BASE_MODEL>
TEMPLATE """{{ if .System }}SYSTEM:
{{ .System }}
{{ end }}USER:
{{ .Prompt }}
ASSISTANT:
{{ .Response }}"""如果基础模型没有按这种纯文本角色格式训练,回答质量可能显著下降。生产模板应以模型原始模板为基础修改。
模板和 SYSTEM 的组合
SYSTEM 提供消息内容,TEMPLATE 决定系统消息放在哪里。模板没有引用 .System 时,SYSTEM 可能无法按预期进入模型输入。
同理,模板必须正确放置 .Prompt 和助手生成起点。遗漏 .Response 或特殊结束标记可能导致生成行为异常。
停止序列
模板中的角色标记通常需要配套 PARAMETER stop。停止序列的作用是防止模型继续生成下一个用户角色或特殊标记。修改模板后应测试:
- 单轮回答是否正常结束
- 多轮对话角色是否正确
- 系统消息是否生效
- 输出是否泄露特殊 Token
- 流式结束块是否正常
- 结构化输出是否完整
构建和回归
创建新模型:
ollama create anystack-template-test:v1 -f Modelfile预期输出最终包含:
success至少运行:
- 普通单轮问答
- 带系统消息的问答
- 多轮 chat
- 长输出
- JSON 输出
- 停止词边界
构建成功只说明语法和组件有效,不证明模板语义正确。
何时不应修改模板
以下情况优先保留原模板:
- 只需要改变角色,可以使用 SYSTEM。
- 只需要改变采样,可以使用 PARAMETER。
- 不理解模型特殊 Token。
- 没有多轮回归测试。
- 模型带视觉、工具调用或 thinking 能力。
- 上游模板更新频繁。
模板修改属于高风险自定义,应有明确收益。
本课练习
练习 1:导出并标注模板
任务目标:理解基础模型格式。输入或初始条件:本地有一个聊天模型。
实现要求:导出 Modelfile并标注三个变量和停止词。验收条件:不修改原文件。
练习 2:验证 SYSTEM 引用
任务目标:检查系统消息是否进入模板。输入或初始条件:创建一个测试模板。实现要求:分别包含和移除 .System。验收条件:通过行为测试说明差异。
练习 3:设计模板回归集
任务目标:防止角色协议损坏。输入或初始条件:准备修改后的模板。实现要求:覆盖单轮、多轮、JSON、长输出和停止。验收条件:每项都有明确通过条件。