游戏 AI / 系统课时

把流式回复接到对话 UI

把流式回复接到对话 UI

玩家点击 NPC 后,如果要等整段回复生成完才展示,气泡会长时间空白。本课把服务端的文本增量接到对话 UI,并为正常完成、断流、玩家跳过和快速切换角色定义不同的收尾行为,避免半句话写入正式对话历史。

学习目标

  • 区分流式文本增量和真正完成的消息。
  • 使用取消信号和请求身份隔离过期 UI 回调。
  • 验证断流、跳过、切换 NPC 时的历史写入规则。

约定 UI 使用的流事件

服务端对模型流做一次协议转换,向客户端提供 Server-Sent Events(SSE)。delta 只传本次新增文字,done 提供完整的 finalText 并确认已结束,error 表示生成失败。OpenAI Responses 的 response.output_text.delta、response.completed 可以作为后端映射来源,具体事件见官方流式说明。

UI 必须在 done 到达后才将最终文本写进对话历史。TCP 连接正常关闭不等于模型成功;若只收到 delta 就断开,显示已接收的片段并标记“未完成”。如果模型先请求了游戏工具,服务端还要完成工具往返,不能把中途的模型响应结束误当作整轮台词完成。

为每次对话保留独立状态

每次点击创建独立的 AbortController 和 turn 对象。读流后先检查 active === turn,只有当前请求才能更新气泡;切换 NPC 时先取消旧请求,再清空当前气泡。玩家选择“跳过”表示中止尚未生成完成的台词,而不是瞬间显示未来尚未收到的文字。

流式回复更新与异常收尾时序

跑通本地 SSE 气泡示例

下面使用 Node.js 18+ 内置 HTTP 服务生成模拟流,浏览器通过 fetch() 逐帧读取。无需密钥或第三方包;生产接入时只需替换服务端模拟文字的部分,继续输出相同的 delta、done、error 协议。

js
import { createServer } from 'node:http';

const html = String.raw`<!doctype html><html lang="zh-CN"><meta charset="utf-8">
<button id="guard">守卫</button><button id="smith">铁匠</button>
<button id="broken">模拟断流</button><button id="skip">跳过</button>
<p id="status">待机</p><p id="bubble"></p>
<script>
const bubble = document.querySelector('#bubble');
const status = document.querySelector('#status');
const turns = [];
let active = null;
let serial = 0;

function cancel(label) {
  if (active && !active.finished) active.controller.abort();
  active = null;
  status.textContent = label;
}

async function talk(npc, broken = false) {
  cancel('正在切换');
  const turn = { id: ++serial, controller: new AbortController(), text: '', finished: false };
  active = turn;
  bubble.textContent = '';
  status.textContent = '生成中:' + npc;
  try {
    const url = '/stream?npc=' + encodeURIComponent(npc) + (broken ? '&broken=1' : '');
    const res = await fetch(url, { signal: turn.controller.signal });
    if (!res.ok || !res.body) throw new Error('HTTP ' + res.status);
    const reader = res.body.getReader();
    const decoder = new TextDecoder();
    let buffer = '';
    while (true) {
      const { value, done } = await reader.read();
      if (active !== turn) return; // 旧 NPC 的异步回调不允许更新新气泡
      if (done) break;
      buffer += decoder.decode(value, { stream: true });
      let end;
      while ((end = buffer.indexOf('\n\n')) >= 0) {
        const lines = buffer.slice(0, end).split('\n');
        buffer = buffer.slice(end + 2);
        const kind = lines.find(s => s.startsWith('event: '))?.slice(7);
        const payload = lines.find(s => s.startsWith('data: '))?.slice(6);
        if (!kind || !payload) continue;
        const data = JSON.parse(payload);
        if (kind === 'delta' && !turn.finished) {
          turn.text += data.text;
          bubble.textContent = turn.text; // 不使用 innerHTML
        } else if (kind === 'done' && !turn.finished) {
          turn.finished = true;
          bubble.textContent = data.finalText;
          turns.push({ npc, text: data.finalText });
          status.textContent = '已完成;历史 ' + turns.length + ' 条';
        } else if (kind === 'error') {
          throw new Error(data.message);
        }
      }
    }
    if (!turn.finished) throw new Error('连接结束但未收到 done');
  } catch (err) {
    if (active !== turn || err.name === 'AbortError') return;
    status.textContent = '中断:' + err.message + ';未入历史';
  }
}

document.querySelector('#guard').onclick = () => talk('守卫');
document.querySelector('#smith').onclick = () => talk('铁匠');
document.querySelector('#broken').onclick = () => talk('守卫', true);
document.querySelector('#skip').onclick = () => {
  if (active && !active.finished) cancel('已跳过;部分文字未入历史');
};
</script></html>`;

createServer((req, res) => {
  const url = new URL(req.url, 'http://localhost');
  if (url.pathname !== '/stream') {
    res.writeHead(200, { 'Content-Type': 'text/html; charset=utf-8' });
    res.end(html);
    return;
  }
  res.writeHead(200, {
    'Content-Type': 'text/event-stream; charset=utf-8',
    'Cache-Control': 'no-cache'
  });
  const npc = url.searchParams.get('npc') === '铁匠' ? '铁匠' : '守卫';
  const words = npc === '铁匠' ? ['铁剑', '明天', '就能修好。'] : ['城门', '将在', '日落前关闭。'];
  let index = 0;
  let full = '';
  const timer = setInterval(() => {
    if (index < words.length) {
      const part = words[index++];
      full += part;
      res.write('event: delta\ndata: ' + JSON.stringify({ text: part }) + '\n\n');
      if (url.searchParams.has('broken') && index === 2) res.end();
    } else {
      res.write('event: done\ndata: ' + JSON.stringify({ finalText: full }) + '\n\n');
      res.end();
    }
  }, 250);
  res.on('close', () => clearInterval(timer));
}).listen(3000, () => console.log('http://localhost:3000'));

保存为 server.mjs 并运行:

bash
node server.mjs

预期输出:

text
http://localhost:3000

在浏览器打开上述本地地址,点击“守卫”,气泡先后出现“城门”“将在”“日落前关闭。”,收到 done 后显示“已完成;历史 1 条”。这里的端口固定为 3000;如修改代码中的监听端口,实际地址也随之改变。

用故障操作验收收尾规则

  1. 点击“模拟断流”:服务端只发两个 delta 就关闭连接,界面应显示“连接结束但未收到 done;未入历史”,部分文字不能作为模型下一轮的已确认台词。
  2. 点击“守卫”后立刻点“铁匠”:旧请求被取消,最终气泡只出现铁匠的回复,历史不混入守卫的片段。
  3. 点击“守卫”后迅速点“跳过”:停止读流,保留已显示部分供玩家识别,但不提交历史。
  4. 完整等待一次回复:只追加一条最终消息,使用 textContent 显示文字,避免把模型生成的标签当作 HTML 执行。

正式游戏还应在客户端对高频 delta 做按帧或约 50 毫秒的 UI 刷新合并,并在服务端设置空闲超时与请求取消传播。断流重试要创建新请求身份;含动作执行的对话不能仅因网络重连就盲目重放旧动作。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

把流式回复接到对话 UI

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通