游戏 AI / 系统课时
上线前检查哪些 AI 风险
上线前检查哪些 AI 风险
上线前最危险的不是模型偶尔答错,而是错误进入正式游戏链路后没有边界:成本失控、延迟拖慢交互、失败无法回退、玩家数据串线、日志无法追溯,或者异常内容直接展示给玩家。本篇用一套发布前检查框架逐项确认这些风险。
学习目标
- 能从成本、延迟、可靠性、隔离性和内容安全五个方向检查 AI 剧情服务
- 能为失败请求设计可接受的回退路径,而不是等待模型无限重试
- 能确认日志既足以排障,又不会泄露不必要的玩家数据
先确认请求是否有边界
每个 AI 请求上线前都应有明确的输入上限、调用预算和超时条件。重点检查单次上下文长度、单玩家单位时间调用次数,以及高峰期并发量;不要让“剧情需要实时生成”变成无限调用的理由。
成本检查不仅看单次价格,还要看最坏情况下的放大倍数。例如一个 NPC 每次靠近都触发生成,玩家同时打开多个 NPC 后,单场景调用量可能迅速增加。应把触发条件、缓存和并发限制写成明确规则,而不是依赖开发人员记忆。

检查延迟与失败回退
上线前至少要定义超时、有限重试和降级结果。交互剧情通常不能接受用户无限等待,因此应先确定“多久算失败”,再决定失败时显示什么,例如使用根据当前事实选择的预写对白或安全通用回复。复用缓存前,仍须核对存档、分支、受众、授权版本和状态是否有效。
重试也必须有上限。网络超时后立即无限重试会同时放大延迟和成本,还可能制造重复状态写入。对于会修改游戏状态的请求,更应把“生成”和“状态提交”分开,模型失败时不能因为重试而重复推进任务。
检查数据隔离与日志边界
动态剧情通常同时携带玩家身份、角色关系、历史事件和近期对话。上线前要确认每次检索都带有明确的租户、玩家或会话边界,不能因为共享缓存或检索索引错误,把 A 玩家记忆提供给 B 玩家。
日志需要能够回答“谁在什么版本下产生了什么结果”,但不应默认记录完整敏感上下文。至少应有 requestId、模型版本、提示词版本、耗时、状态和错误类别;原始对话是否落盘则应按数据最小化原则单独评估。
检查异常内容与结构化结果
内容安全不能只检查最终对白。结构化结果先经格式校验,再由服务端核对授权、当前状态和动作前置条件。未知动作、越权参数和缺失字段要拒绝。对白在交付客户端前按内容策略和披露权限检查。敏感内容先缓冲并校验,避免边生成边发送造成不可收回的泄露。
对于失败分支,要验证至少四种情况:模型超时、模型不可用、结构化输出非法、内容检查拒绝。每一种情况都应有可预测的用户体验,并能在日志中被区分,否则线上出现问题时只能看到笼统的“AI failed”。
用发布门禁决定是否上线
最终检查不应只是勾选“已测试”。更实用的做法是为每个风险项写出可验证条件:例如 p95 延迟不超过产品要求、重试次数有上限、缓存键包含正确的玩家范围、非法 action 无法进入执行器、日志能够通过 requestId 找到一次请求的完整处理链。
下面给出一个本地门禁算例。800 ms 和 100 条样本是示例阈值。实际测试按目标负载和场景分组,端到端延迟从接收请求到交付通过校验的结果,超时后回退也计入。若一直没有交付,另记回退失败,不能把样本直接丢掉。
from math import ceil, isfinite
def rollout_gate(latencies_ms, *, leaks, invalid_writes, missed_fallbacks):
if len(latencies_ms) < 100 or any(not isfinite(ms) or ms < 0 for ms in latencies_ms):
return False
# 近秩百分位,样本含超时后的降级交付。
p95 = sorted(latencies_ms)[ceil(0.95 * len(latencies_ms)) - 1]
return (p95 <= 800 and leaks == 0 and invalid_writes == 0
and missed_fallbacks == 0)
sample = [450] * 94 + [800] + [900] * 5
clean = dict(leaks=0, invalid_writes=0, missed_fallbacks=0)
assert rollout_gate(sample, **clean)
assert not rollout_gate([450] * 94 + [801] + [900] * 5, **clean)
assert not rollout_gate(sample, **{**clean, "leaks": 1})
assert not rollout_gate(sample, **{**clean, "invalid_writes": 1})
assert not rollout_gate(sample, **{**clean, "missed_fallbacks": 1})
assert not rollout_gate(sample[:99], **clean)
print("gate: passed")预期输出 gate: passed。还应记录回退比例、供应商调用总量和费用门槛。灰度中只要发现跨存档泄露、非法写入或持续超过已定上限,就切换到预写对白,并保留权威状态供排查。
发布前还应准备一次故障演练:人为模拟模型超时、限流和异常输出,确认游戏仍能继续运行或进入明确降级状态。只有当失败路径同样可测试、可观察、可回退时,动态剧情系统才算具备正式上线条件。