AI Agent / 系统课时

接入智能体流式会话

接入智能体流式会话

本节解决编程智能体如何把一次用户请求转换为持续反馈过程。通过建立流式会话通道,用户可以实时看到模型输出、任务计划、工具调用和执行状态,而不是等待完整结果返回。

学习目标

  • 理解 Agent Task 与流式会话之间的关系。
  • 实现模型输出、工具调用和状态事件的统一传输。
  • 掌握流式交互中的事件设计方法。

从用户请求到 Agent Task

编程智能体通常不会直接把用户输入发送给模型,而是先转换为任务对象。任务对象记录目标、上下文、执行状态和需要调用的能力。

例如用户输入“帮我重构登录模块”,智能体需要拆分为分析代码、制定计划、修改文件和验证结果等阶段。

一个基础任务结构如下:

ts
interface AgentTask {
  id: string;
  prompt: string;
  status: "pending" | "running" | "completed";
  workspacePath: string;
}

const task: AgentTask = {
  id: "<ID>",
  prompt: "重构登录模块",
  status: "pending",
  workspacePath: "<PATH>"
};

预期结果

text
任务状态: pending
任务编号: <ID>

任务对象作为后续模型调用、工具执行和状态更新的统一载体。

设计流式事件通道

流式会话的核心不是持续发送字符串,而是定义清晰事件类型。客户端根据事件类型决定如何展示内容。

常见事件包括:

事件 用途
token 模型增量输出
plan 当前执行计划
tool_call 工具调用信息
status 任务状态变化

可以使用 Server-Sent Events 或 WebSocket 传输这些事件。

智能体流式会话事件流程图

实现服务端事件输出

下面示例使用 Node.js 创建简单 SSE 流,将 Agent 事件持续发送给客户端。

js
import express from "express";

const app = express();

app.get("/agent/stream", (req, res) => {
  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  const events = [
    { type: "plan", data: "分析项目结构" },
    { type: "token", data: "正在读取文件" },
    { type: "status", data: "running" }
  ];

  for (const event of events) {
    res.write(`event: ${event.type}\ndata: ${event.data}\n\n`);
  }

  res.end();
});

app.listen(<PORT>);

预期输出

text
GET /agent/stream

plan: 分析项目结构
token: 正在读取文件
status: running

实际生产环境中,事件通常来自模型生成过程、工具执行回调和任务状态机,而不是固定数组。

处理流式会话状态

长时间任务需要维护连接状态,例如用户关闭页面、网络中断或工具执行失败时,都需要正确恢复。

状态管理可以划分为任务状态和事件状态:

  • 任务状态描述整体进度,例如运行中、完成、失败。
  • 事件状态描述最近发送的消息,用于断线恢复和重放。

合理的状态设计可以让用户重新连接后继续查看执行过程,而不需要重新运行任务。

本课总结

  • Agent Task 是用户需求进入智能体执行链路后的统一模型。
  • 流式会话通过事件传递实时展示模型、计划和工具状态。
  • 稳定的状态设计是支持长任务和断线恢复的基础。

下一课预告

下一节将继续完善编程智能体的工具调用流程,让 Agent 能够安全执行项目操作。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

接入智能体流式会话

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通