交互与用户体验 / 系统课时
明确 AI 能力边界与非确定性
明确 AI 能力边界与非确定性
用户容易把流畅回答当成已核实结论,也可能把“我可以帮你”理解为操作已经完成。本课以企业知识问答和批量邮件为例,设计 AI 身份提示、能力说明、证据状态与复核入口,让界面表达始终符合系统实际能力。
学习目标
- 为当前会话写出可检查的 AI 身份与能力范围说明。
- 区分模型生成、资料引用和工具执行的结果状态。
- 按任务风险布置人工复核、操作确认与纠错入口。
让身份与能力范围始终可见
假设产品只连接用户授权的企业知识库,能整理文字、回答知识库问题、起草邮件,但没有接入邮件发送工具。界面要按当前会话的权限展示能力,不能因为产品理论上支持某项功能,就暗示本次会话也能使用。
| 显示位置 | 可直接采用的界面文案 |
|---|---|
| 输入区附近常驻 | AI 助手|回答由 AI 生成,可能出现错误 |
| 能力说明入口 | 可整理对话内容、查询已授权资料、起草邮件;当前不能直接发送邮件 |
| 当前资料不可访问 | 当前无法访问这份资料。如果你有权共享,可添加可访问的副本,或申请资料源权限 |
能力说明应随连接变化而更新。例如邮件工具已接入且当前账号具备相应授权时,才显示“可在你确认后发送”。权限改变时同步刷新说明;执行时仍由服务端检查。能生成邮件正文不等于有权发送邮件,也不等于已经发送成功。
不用语气代替证据和执行结果
同一问题多次生成的措辞、内容细节可能不同。界面的可信状态应由资料和工具回执决定,而不是由模型是否说得肯定来决定。
| 结果类型 | 界面应显示 | 不能误写成 |
|---|---|---|
| 仅根据对话生成 | AI 生成 · 尚未核验;提供编辑入口 | 已核实 |
| 引用授权资料回答 | 按具体主张显示来源与可定位段落,日期已知时展示。引用出现本身不表示该段支持全部结论 | 未提供来源却写“有据可查” |
| 未找到可靠依据 | 无法确认;说明缺少哪份资料 | 编造具体数字或政策 |
| 请求外部工具执行 | 根据权威事件显示待确认、已提交、执行中、待核验或完成 | 仅收到受理回执就显示已送达 |
例如用户问“公司最新的报销上限是多少”,当前没有接入报销制度时,应该回答“无法核实最新上限,请提供政策文件”,而不是猜出一个金额。资料没有可验证日期时显示“资料更新时间未知”。若新旧条款冲突,应按生效日期及适用对象核对;不足以判断时同时展示冲突和待确认项。
按影响程度选择复核与确认
先判断当前会话是否有权完成任务,再区分内容生成和外部操作。纯内容任务依据事实重要性决定是否需要人工复核;对外发送、付款、删除等会产生副作用的操作,还须在执行前展示预览并征得明确确认。

发送案例假设邮件工具已经接入并获授权;如果尚未接入,应先说明无法执行,不进入确认流程。
| 任务示例 | 推荐交互 | 验收条件 |
|---|---|---|
| 将会议纪要压缩到 200 字 | 标记“AI 生成”,允许编辑 | 不声称内容已被人工审核 |
| 回答报销上限 | 展示可定位的政策条款及日期,提供“请求负责人复核” | 无依据时不得给出确定金额 |
| 向 20 位客户发送报价邮件(工具已授权) | 预览 20 位收件人、邮件正文及附件;提供“确认发送”和“取消” | 未确认不执行;按回执单位区分请求数、收件人数与已发送邮件数,状态未知的单列 |
如果产品没有人工审核队列,不要放一个实际无法提交的“请求负责人复核”按钮;可以改为“复制待核对清单”,让用户通过真实可用的渠道完成复核。
用三个场景验收界面承诺
- 输入“把这段说明改写为 200 字”。检查结果是否标记 AI 生成,且可编辑;不要出现“事实已核验”。
- 在未授权知识库的会话中提问“今年差旅报销上限是多少”。检查是否明确说明无法确认,并提供上传或授权入口;不得出现猜测金额。
- 在已接入并授权邮件工具的测试会话中输入“把报价发给 20 位客户”。检查是否先展示收件人、正文与附件,用户取消后不执行;没有成功回执时不得显示“已发送 20 封”。
再把同一事实问题连续提问 3 次:答案措辞可以变化,但证据缺失时的限制说明、引用规则和复核入口必须一致。上线标准是用户能分辨AI 写出了什么、事实核实到了哪一步、外部操作是否真的完成。