游戏 AI / 系统课时
模型不可用时 NPC 说什么
模型不可用时 NPC 说什么
这一课解决模型超时、限流、服务异常和格式错误时的运行时风险。目标不是让 NPC 永远保持完整生成,而是让模型成为可替换能力:失败后按错误类型进入可预测的降级回复,同时保证核心玩法继续执行。
学习目标
- 能区分超时、限流、服务异常和格式错误的处理策略
- 能为 NPC 设计静态短回复、模板回复和游戏状态驱动的降级路径
- 能验证模型失败后游戏逻辑不被阻塞
先把失败分成几类
超时表示模型没有在允许窗口内完成,通常应快速结束等待并使用本地 fallback;429 表示限流,重点是降低并发与重试压力,而不是立即连续重试;5xx 或网络异常说明本次调用失败,应避免把失败扩散到游戏主循环;格式错误则说明模型返回了不可执行内容,应在执行前拒绝。
这几类故障不应共用一个“再试一次”分支。重复重试可能让高峰期的请求量进一步上升,而格式错误反复发送相同上下文通常也不能解决问题。

降级回复应该由谁决定
最稳妥的方式是把 fallback 放在游戏服务端,而不是让模型自己决定失败时说什么。这样可以保证关键业务状态仍由游戏规则掌控,模型只负责生成“可选表达”。
例如守卫 NPC 在模型不可用时,可以根据当前状态选择固定模板:“我现在没空回答。”如果玩家正处于战斗或重要交互,则可以更短:“等一下。”不要因为模型失败就阻塞任务、库存、移动或战斗状态更新。
降级内容也应区分“能继续玩法”和“能否继续对白”。即使 AI 服务完全不可用,玩家仍然应该能够完成不依赖动态对白的核心操作。
用代码验证失败分支
下面是一个可直接运行的 Python 示例。模型客户端用本地模拟器代替真实网络服务,但超时、429、503 和格式错误的控制流与运行时处理方式一致。
import asyncio
class ModelError(Exception):
pass
async def model_call(mode: str) -> object:
if mode == "timeout":
await asyncio.sleep(0.2)
return {"dialogue": "晚些再来。"}
if mode == "429":
raise ModelError("429")
if mode == "503":
raise ModelError("503")
if mode == "invalid":
return {"text": "缺少 dialogue 字段"}
if mode == "non-object":
return None
return {"dialogue": "守卫:北门目前开放。"}
def validate_output(data: object) -> str:
if not isinstance(data, dict) or set(data) != {"dialogue"}:
raise ValueError("invalid_output")
dialogue = data["dialogue"]
if not isinstance(dialogue, str) or not dialogue.strip() or len(dialogue) > 160:
raise ValueError("invalid_output")
return dialogue
def fallback(reason: str) -> str:
return {
"timeout": "守卫:等一下,我现在无法回答。",
"429": "守卫:现在人太多了,稍后再问。",
"503": "守卫:我暂时没空处理这件事。",
"invalid": "守卫:我现在无法确认,稍后再来。",
}.get(reason, "守卫:现在不方便回答。")
async def safe_dialogue(mode: str) -> str:
try:
data = await asyncio.wait_for(model_call(mode), timeout=0.1)
return validate_output(data)
except asyncio.TimeoutError:
return fallback("timeout")
except ModelError as exc:
if str(exc) == "429":
return fallback("429")
return fallback("503")
except ValueError:
return fallback("invalid")
async def main() -> None:
for mode in ("ok", "timeout", "429", "503", "invalid", "non-object"):
print(mode, "->", await safe_dialogue(mode))
asyncio.run(main())预期输出
ok -> 守卫:北门目前开放。
timeout -> 守卫:等一下,我现在无法回答。
429 -> 守卫:现在人太多了,稍后再问。
503 -> 守卫:我暂时没空处理这件事。
invalid -> 守卫:我现在无法确认,稍后再来。
non-object -> 守卫:我现在无法确认,稍后再来。这里的关键顺序是调用有超时边界 → 校验返回 → 分类异常 → 返回本地安全结果。任何未通过校验的内容都不能直接进入剧情执行器。
重试什么时候值得做
重试只适合少量、可恢复的故障,而且必须有上限。仅在可安全重复调用且剩余预算充足时重试。服务带回 Retry-After 时按其秒数或 HTTP 日期计算等待时间。若超出预算就立即降级,没有该响应头时可用带抖动的退避,并限制总次数。提交可能已经产生费用,任务奖励等权威操作还需要独立的幂等边界。
对于 NPC 对话,一次失败后直接使用短 fallback 往往比等待数秒再换一句“更聪明”的回答更稳定。对话属于表现层时,允许内容降级;对战斗结算、任务完成、物品发放等权威状态,不应依赖重试来决定业务结果。
让降级路径可观测
每次降级至少记录 requestId、npcId、reason、contextVersion 与耗时。这样可以区分“模型真的不可用”与“输出校验规则过严”,避免把所有问题都归类成服务故障。
生产环境还应统计 fallback 比例与不同原因的占比。若 429 集中在高峰期,优先调整并发控制;若 invalid_output 持续升高,优先检查输出协议和校验规则;若超时集中在某类长上下文请求,则应先缩短上下文或降低生成预算,而不是单纯增加等待时间。
真正可靠的 NPC 运行链路,不是保证每次都能生成漂亮对白,而是保证模型失败时仍有明确、快速、可验证的下一步。只要降级不会修改权威游戏状态,核心玩法就可以与模型服务的可用性解耦。