大模型应用开发 / 系统课时

记录安全审计

记录安全审计

安全审计的目标不是“多打日志”,而是让一次高风险请求可以被事后还原:谁发起、模型准备做什么、调用了哪个工具、是否经过人工确认、哪里被安全策略拦截。设计得当的审计记录既能支持追责与排障,也不会把密钥和敏感正文再次复制进日志系统。

学习目标

  • 为输入、模型决策、工具调用、人工确认和安全拦截设计统一审计事件
  • 使用关联 ID 串起一次请求的完整安全轨迹
  • 对敏感字段做脱敏,并验证审计日志足以重建关键决策

先定义能回答问题的事件模型

审计日志至少要能回答五件事:主体是谁、请求属于哪次会话、模型提出了什么动作、动作是否被授权、最终执行结果是什么。相比把整段 Prompt 和模型输出原样落盘,更稳妥的做法是记录必要摘要、结构化参数、策略结果和内容指纹。

建议每条事件包含 timestamp、trace_id、actor_id、event_type、action、target、decision、reason 等稳定字段。高风险工具还应记录审批人、审批结果和执行前后的资源标识,但密钥、访问令牌、完整身份证件或银行卡等敏感值应直接删除或不可逆处理。

大模型应用安全审计事件链

统一事件模型的价值在于,安全团队不需要理解每个 Agent 的内部实现,也能用同一套查询规则发现“谁在什么时间尝试了什么高风险操作”。

用结构化日志串起关键决策

下面的 Python 示例实现一个最小审计记录器。它使用 trace_id 关联同一次请求,并在写日志前对常见敏感字段做遮蔽。示例依次记录用户输入、模型动作提议、策略拒绝三个事件。

python
import json
from datetime import datetime, timezone

SENSITIVE_KEYS = {"api_key", "access_token", "password"}

def redact(value):
    if isinstance(value, dict):
        return {
            key: "***REDACTED***" if key in SENSITIVE_KEYS else redact(item)
            for key, item in value.items()
        }
    if isinstance(value, list):
        return [redact(item) for item in value]
    return value

def audit_event(trace_id, actor_id, event_type, **details):
    event = {
        "timestamp": datetime.now(timezone.utc).isoformat(),
        "trace_id": trace_id,
        "actor_id": actor_id,
        "event_type": event_type,
        "details": redact(details),
    }
    print(json.dumps(event, ensure_ascii=False, sort_keys=True))

if __name__ == "__main__":
    trace_id = "trace-001"
    audit_event(
        trace_id,
        "user-42",
        "input_received",
        intent="导出客户报表",
        access_token="secret-token",
    )
    audit_event(
        trace_id,
        "agent",
        "model_action_proposed",
        tool="export_report",
        target="customer-report",
    )
    audit_event(
        trace_id,
        "policy-engine",
        "security_blocked",
        action="export_report",
        decision="deny",
        reason="role viewer cannot export",
    )

预期输出

text
{"actor_id": "user-42", "details": {"access_token": "***REDACTED***", "intent": "导出客户报表"}, "event_type": "input_received", "timestamp": "<TIME>", "trace_id": "trace-001"}
{"actor_id": "agent", "details": {"target": "customer-report", "tool": "export_report"}, "event_type": "model_action_proposed", "timestamp": "<TIME>", "trace_id": "trace-001"}
{"actor_id": "policy-engine", "details": {"action": "export_report", "decision": "deny", "reason": "role viewer cannot export"}, "event_type": "security_blocked", "timestamp": "<TIME>", "trace_id": "trace-001"}

<TIME> 代表运行时生成的 UTC 时间,实际值每次都会不同。生产环境通常把事件写入不可随意修改的集中日志系统,而不是标准输出。

区分“可观测日志”和“审计证据”

普通运行日志可以为了排障保留详细堆栈,但安全审计更强调事件完整性、可检索性和留存策略。关键事件不应被采样丢弃,也不应允许业务进程随意覆盖。对于真正敏感的操作,可以增加日志签名、只追加存储或独立审计账号,降低事后篡改风险。

同样不要把“记录完整 Prompt”当成默认方案。很多请求包含个人信息、内部文档或密钥片段,直接全量留存会把审计系统变成新的高价值数据仓库。更合适的是记录必要摘要、哈希、资源 ID、策略版本和决策原因,并只在法规或调查确有需要时扩大留存范围。

用一次请求回放检查审计质量

验收时,随机挑一条高风险请求,仅依靠审计记录回答:发起人是谁、模型建议了什么动作、使用了哪版策略、是否要求人工确认、工具是否真的执行、最终为什么允许或拒绝。如果其中任一问题无法回答,说明事件字段或记录时机仍有缺口。

还要验证两类失败路径:安全策略拒绝后是否仍记录 security_blocked,以及工具执行异常时是否记录失败结果而不是只留下“已发起调用”。完整审计不是把每个字都存下来,而是保留足够的、经过脱敏的证据,使关键安全决策可以被可靠重建。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

记录安全审计

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通