交互与用户体验 / 系统课时

明确 AI 能力边界与非确定性

明确 AI 能力边界与非确定性

用户容易把流畅回答当成已核实结论,也可能把“我可以帮你”理解为操作已经完成。本课以企业知识问答和批量邮件为例,设计 AI 身份提示、能力说明、证据状态与复核入口,让界面表达始终符合系统实际能力。

学习目标

  • 为当前会话写出可检查的 AI 身份与能力范围说明。
  • 区分模型生成、资料引用和工具执行的结果状态。
  • 按任务风险布置人工复核、操作确认与纠错入口。

让身份与能力范围始终可见

假设产品只连接用户授权的企业知识库,能整理文字、回答知识库问题、起草邮件,但没有接入邮件发送工具。界面要按当前会话的权限展示能力,不能因为产品理论上支持某项功能,就暗示本次会话也能使用。

显示位置 可直接采用的界面文案
输入区附近常驻 AI 助手|回答由 AI 生成,可能出现错误
能力说明入口 可整理对话内容、查询已授权资料、起草邮件;当前不能直接发送邮件
当前资料不可访问 当前无法访问这份资料。如果你有权共享,可添加可访问的副本,或申请资料源权限

能力说明应随连接变化而更新。例如邮件工具已接入且当前账号具备相应授权时,才显示“可在你确认后发送”。权限改变时同步刷新说明;执行时仍由服务端检查。能生成邮件正文不等于有权发送邮件,也不等于已经发送成功。

不用语气代替证据和执行结果

同一问题多次生成的措辞、内容细节可能不同。界面的可信状态应由资料和工具回执决定,而不是由模型是否说得肯定来决定。

结果类型 界面应显示 不能误写成
仅根据对话生成 AI 生成 · 尚未核验;提供编辑入口 已核实
引用授权资料回答 按具体主张显示来源与可定位段落,日期已知时展示。引用出现本身不表示该段支持全部结论 未提供来源却写“有据可查”
未找到可靠依据 无法确认;说明缺少哪份资料 编造具体数字或政策
请求外部工具执行 根据权威事件显示待确认、已提交、执行中、待核验或完成 仅收到受理回执就显示已送达

例如用户问“公司最新的报销上限是多少”,当前没有接入报销制度时,应该回答“无法核实最新上限,请提供政策文件”,而不是猜出一个金额。资料没有可验证日期时显示“资料更新时间未知”。若新旧条款冲突,应按生效日期及适用对象核对;不足以判断时同时展示冲突和待确认项。

按影响程度选择复核与确认

先判断当前会话是否有权完成任务,再区分内容生成和外部操作。纯内容任务依据事实重要性决定是否需要人工复核;对外发送、付款、删除等会产生副作用的操作,还须在执行前展示预览并征得明确确认。

AI 能力边界与人工复核条件分流

发送案例假设邮件工具已经接入并获授权;如果尚未接入,应先说明无法执行,不进入确认流程。

任务示例 推荐交互 验收条件
将会议纪要压缩到 200 字 标记“AI 生成”,允许编辑 不声称内容已被人工审核
回答报销上限 展示可定位的政策条款及日期,提供“请求负责人复核” 无依据时不得给出确定金额
向 20 位客户发送报价邮件(工具已授权) 预览 20 位收件人、邮件正文及附件;提供“确认发送”和“取消” 未确认不执行;按回执单位区分请求数、收件人数与已发送邮件数,状态未知的单列

如果产品没有人工审核队列,不要放一个实际无法提交的“请求负责人复核”按钮;可以改为“复制待核对清单”,让用户通过真实可用的渠道完成复核。

用三个场景验收界面承诺

  1. 输入“把这段说明改写为 200 字”。检查结果是否标记 AI 生成,且可编辑;不要出现“事实已核验”。
  2. 在未授权知识库的会话中提问“今年差旅报销上限是多少”。检查是否明确说明无法确认,并提供上传或授权入口;不得出现猜测金额。
  3. 在已接入并授权邮件工具的测试会话中输入“把报价发给 20 位客户”。检查是否先展示收件人、正文与附件,用户取消后不执行;没有成功回执时不得显示“已发送 20 封”。

再把同一事实问题连续提问 3 次:答案措辞可以变化,但证据缺失时的限制说明、引用规则和复核入口必须一致。上线标准是用户能分辨AI 写出了什么、事实核实到了哪一步、外部操作是否真的完成。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

明确 AI 能力边界与非确定性

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通