大模型应用开发 / 系统课时

定制提示词模板

定制提示词模板

学习目标

完成本课后,你将能够:

  • 说明 TEMPLATE 如何把系统消息和用户输入转换为模型文本
  • 识别 .System、.Prompt 和 .Response 变量
  • 从基础模型导出现有模板
  • 避免错误特殊标记导致角色混乱或无法停止

模板位于哪一层

聊天 API 提交的是结构化消息,模型最终处理的是 Token。TEMPLATE 负责把系统消息、用户提示和助手起始位置拼成模型训练时熟悉的格式。

模板属于模型协议。不同模型家族使用不同特殊标记,不能随意互换。

模板变量

官方 Modelfile 模板变量包括:

变量 作用
{{ .System }} 系统消息
{{ .Prompt }} 用户提示
{{ .Response }} 模型响应位置;生成时其后的文本通常不再发送

模板使用 Go template 语法,可以通过条件判断决定是否输出某个部分。

先导出基础模板

执行:

bash
ollama show --modelfile gemma3:1b > BaseModelfile

预期结果:

text
当前目录生成 BaseModelfile,包含 FROM、TEMPLATE 和 PARAMETER 等信息。

查看:

bash
sed -n '1,160p' BaseModelfile

预期输出:

text
<BASE_MODELFILE_CONTENT>

Windows 可使用 Get-Content BaseModelfile。

简化模板示例

以下仅用于讲解 Go template 变量,不应直接套到未知模型:

text
FROM <BASE_MODEL>

TEMPLATE """{{ if .System }}SYSTEM:
{{ .System }}
{{ end }}USER:
{{ .Prompt }}
ASSISTANT:
{{ .Response }}"""

如果基础模型没有按这种纯文本角色格式训练,回答质量可能显著下降。生产模板应以模型原始模板为基础修改。

模板和 SYSTEM 的组合

SYSTEM 提供消息内容,TEMPLATE 决定系统消息放在哪里。模板没有引用 .System 时,SYSTEM 可能无法按预期进入模型输入。

同理,模板必须正确放置 .Prompt 和助手生成起点。遗漏 .Response 或特殊结束标记可能导致生成行为异常。

停止序列

模板中的角色标记通常需要配套 PARAMETER stop。停止序列的作用是防止模型继续生成下一个用户角色或特殊标记。修改模板后应测试:

  • 单轮回答是否正常结束
  • 多轮对话角色是否正确
  • 系统消息是否生效
  • 输出是否泄露特殊 Token
  • 流式结束块是否正常
  • 结构化输出是否完整

构建和回归

创建新模型:

bash
ollama create anystack-template-test:v1 -f Modelfile

预期输出最终包含:

text
success

至少运行:

  • 普通单轮问答
  • 带系统消息的问答
  • 多轮 chat
  • 长输出
  • JSON 输出
  • 停止词边界

构建成功只说明语法和组件有效,不证明模板语义正确。

何时不应修改模板

以下情况优先保留原模板:

  • 只需要改变角色,可以使用 SYSTEM。
  • 只需要改变采样,可以使用 PARAMETER。
  • 不理解模型特殊 Token。
  • 没有多轮回归测试。
  • 模型带视觉、工具调用或 thinking 能力。
  • 上游模板更新频繁。

模板修改属于高风险自定义,应有明确收益。

本课练习

练习 1:导出并标注模板

任务目标:理解基础模型格式。输入或初始条件:本地有一个聊天模型。

实现要求:导出 Modelfile并标注三个变量和停止词。验收条件:不修改原文件。

练习 2:验证 SYSTEM 引用

任务目标:检查系统消息是否进入模板。输入或初始条件:创建一个测试模板。实现要求:分别包含和移除 .System。验收条件:通过行为测试说明差异。

练习 3:设计模板回归集

任务目标:防止角色协议损坏。输入或初始条件:准备修改后的模板。实现要求:覆盖单轮、多轮、JSON、长输出和停止。验收条件:每项都有明确通过条件。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

定制提示词模板

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通