AI Agent / 系统课时
接入智能体流式会话
接入智能体流式会话
本节解决编程智能体如何把一次用户请求转换为持续反馈过程。通过建立流式会话通道,用户可以实时看到模型输出、任务计划、工具调用和执行状态,而不是等待完整结果返回。
学习目标
- 理解 Agent Task 与流式会话之间的关系。
- 实现模型输出、工具调用和状态事件的统一传输。
- 掌握流式交互中的事件设计方法。
从用户请求到 Agent Task
编程智能体通常不会直接把用户输入发送给模型,而是先转换为任务对象。任务对象记录目标、上下文、执行状态和需要调用的能力。
例如用户输入“帮我重构登录模块”,智能体需要拆分为分析代码、制定计划、修改文件和验证结果等阶段。
一个基础任务结构如下:
ts
interface AgentTask {
id: string;
prompt: string;
status: "pending" | "running" | "completed";
workspacePath: string;
}
const task: AgentTask = {
id: "<ID>",
prompt: "重构登录模块",
status: "pending",
workspacePath: "<PATH>"
};预期结果
text
任务状态: pending
任务编号: <ID>任务对象作为后续模型调用、工具执行和状态更新的统一载体。
设计流式事件通道
流式会话的核心不是持续发送字符串,而是定义清晰事件类型。客户端根据事件类型决定如何展示内容。
常见事件包括:
| 事件 | 用途 |
|---|---|
| token | 模型增量输出 |
| plan | 当前执行计划 |
| tool_call | 工具调用信息 |
| status | 任务状态变化 |
可以使用 Server-Sent Events 或 WebSocket 传输这些事件。

实现服务端事件输出
下面示例使用 Node.js 创建简单 SSE 流,将 Agent 事件持续发送给客户端。
js
import express from "express";
const app = express();
app.get("/agent/stream", (req, res) => {
res.setHeader("Content-Type", "text/event-stream");
res.setHeader("Cache-Control", "no-cache");
const events = [
{ type: "plan", data: "分析项目结构" },
{ type: "token", data: "正在读取文件" },
{ type: "status", data: "running" }
];
for (const event of events) {
res.write(`event: ${event.type}\ndata: ${event.data}\n\n`);
}
res.end();
});
app.listen(<PORT>);预期输出
text
GET /agent/stream
plan: 分析项目结构
token: 正在读取文件
status: running实际生产环境中,事件通常来自模型生成过程、工具执行回调和任务状态机,而不是固定数组。
处理流式会话状态
长时间任务需要维护连接状态,例如用户关闭页面、网络中断或工具执行失败时,都需要正确恢复。
状态管理可以划分为任务状态和事件状态:
- 任务状态描述整体进度,例如运行中、完成、失败。
- 事件状态描述最近发送的消息,用于断线恢复和重放。
合理的状态设计可以让用户重新连接后继续查看执行过程,而不需要重新运行任务。
本课总结
- Agent Task 是用户需求进入智能体执行链路后的统一模型。
- 流式会话通过事件传递实时展示模型、计划和工具状态。
- 稳定的状态设计是支持长任务和断线恢复的基础。
下一课预告
下一节将继续完善编程智能体的工具调用流程,让 Agent 能够安全执行项目操作。
按自己的节奏,确认真正理解。