大模型应用开发 / 系统课时

大模型应用的组成

大模型应用的组成

大模型应用不是“调用一次模型接口”这么简单。一个可用系统通常要把模型服务、提示词、上下文、外部知识、工具和应用界面组织成协作链路,才能稳定地接收需求、补充信息、执行动作并把结果交给用户。

学习目标

  • 说清大模型应用中六类核心组成部分的职责
  • 理解一次用户请求如何在这些组件之间流转
  • 判断一个场景是否真的需要外部知识或工具调用

从请求到回答的最小链路

最小的大模型应用只需要“应用界面 + 提示词 + 模型服务”三部分:界面接收用户输入,提示词把任务说明整理成模型可理解的上下文,模型服务负责生成结果。随着任务变复杂,系统才会加入会话上下文、外部知识和工具。

大模型应用六类组件及请求流向

六个组成部分各做什么

  • 模型服务负责根据输入生成文本、结构化结果或决策建议,它是能力来源,但不是完整应用本身。
  • 提示词定义任务、角色、约束、输出格式和必要示例,作用是把“用户想要什么”转换成更明确的模型指令。
  • 上下文保存当前任务相关的信息,例如对话历史、用户刚提交的数据或本轮得到的中间结果。上下文越相关越好,并不是越长越好。
  • 外部知识用于补充模型参数之外的资料,例如产品文档、企业制度、最新公告或数据库记录。常见做法是先检索,再把命中的内容加入上下文。
  • 工具让应用可以执行模型本身做不到的动作,例如查数据库、调用业务 API、创建工单、计算精确结果或修改外部系统状态。
  • 应用界面负责收集输入、展示结果,并承载上传文件、确认操作、错误提示和权限控制等真实交互。

一次请求如何流经这些组件

假设用户问“帮我查订单状态,并解释为什么还没发货”。应用可以按下面的顺序处理:

  1. 应用界面接收订单号和问题。
  2. 系统提示词要求模型先获取真实订单信息,再生成解释,不能凭空猜测状态。
  3. 当前订单号、用户问题和必要的会话信息被放入上下文。
  4. 系统调用订单查询工具,拿到订单状态、库存和物流数据。
  5. 工具结果被补充到上下文,模型服务基于真实数据生成面向用户的说明。
  6. 应用界面展示答案;如果后续需要取消订单等高风险操作,还可以增加人工确认步骤。

这里的关键不是“模型知道订单”,而是应用先通过工具获得事实,再让模型负责理解和表达。

不要把所有组件都强行加进来

组件应按任务需要组合。纯文本改写通常不需要外部知识和工具;企业知识问答需要检索,但不一定需要写操作;订单助手往往既需要工具,也需要上下文和权限控制。判断原则很简单:模型缺少事实时补知识,需要改变外部世界时用工具,需要保持任务连续性时带上下文。

把这六个部分分清后,设计大模型应用就不再是“选一个模型然后写提示词”,而是根据任务把信息、能力和交互放到正确位置。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

大模型应用的组成

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通