企业部署AI助手后,日志过少无法追溯事故,日志过多又可能泄露员工、客户与商业秘密。本文结合NIST日志管理指南和OWASP大模型风险框架,给出分层、可计算、可执行的保留策略。
先确定谁可能需要什么证据
NIST SP 800-92于2006年发布,提供企业安全日志管理原则;这是基础参考而非2026年最新法规。OWASP 2025大模型应用风险则提醒提示注入、敏感信息泄露、过度代理能力等新问题。两者结合意味着不能只记录一次API返回200。审计必须根据真实事故场景区分身份、授权决策、工具调用、模型版本、用户反馈和错误处理。采购人员应向供应商问清哪些记录能导出、哪些只能留在云服务商内部,以及每一层由谁承担保存和删除责任。
将六层日志按敏感度拆开
第一层是身份与权限变更;第二层是接口调用及错误码;第三层是模型与工具版本;第四层是知识库检索证据;第五层是人工审批记录;第六层是可能包含个人资料的提示词和输出。前五层可以在合理最小化后保留业务追责字段,第六层不宜默认无限期采集完整内容。每一层记录用途、访问角色、保留条件、加密措施及删除确认。实际时限由适用法律、业务合同、风险分析和内部制度决定,不能从一份NIST文档复制出一个所有企业通用的天数。
价格模型不能只看GB单价
假设系统每天产生10GB日志,其中8GB是重复调试输出,1GB是安全事件元数据,1GB含高敏内容。直接按30天保存全部数据将产生300GB存储需求,另有索引、检索、备份、跨区传输和审计人工成本。这个例子仅是计算展示,并非行业标准。可以先过滤无用调试字段,再对必须保留的数据分热存储与冷存储,按访问频率分配成本。更重要的是若含个人资料,采用最低费用的无限保留方案未必最优,因为泄露损失和合规风险不在简单存储账单里。
提示注入事故需要关联链路
当不可信文档试图诱导AI调用外部工具时,仅保存最终回答无法解释真实风险。可以记录检索文档的不可逆引用标识、工具名称、审批结果和时间戳,不一定保存原始敏感文档。对涉及客户数据的场景,提供有权限的取证流程和脱敏检索机制。OWASP关于提示注入和过度代理的风险说明支持这种分层思考,但本文提出的事件字段是企业自定义建议,不应声称为OWASP统一规定的强制格式。重要的是将模型输出、工具动作和人工审批建立关联,能在事后解释为何执行或拒绝。
用删除验证而非承诺验证保留
制度要求30天删除某类日志时,应在测试环境证明主存储、检索索引、备份副本和外包监控系统的处理结果。删除执行记录本身可以仅保存处理ID、时间与结果,避免为了证明删除而复制已删除的原始内容。对于法律保全或争议调查,应有单独的审批冻结机制和解除流程,且不能由任意业务人员直接改变。验收需考虑日志从采集到处理是否经过第三方服务,并核实各方的保留承诺与实际设置一致。
把合规责任变成可落地分工
产品团队定义哪些事件值得记录,安全团队定权限与取证流程,法务识别适用义务,数据负责人决定敏感字段,财务对每层成本和使用情况复核。合同应写清数据导出、可读格式、日志完整性、删除请求响应以及合作终止后的处置。企业还应让模型服务商说明是否默认保留输入输出或用于训练,并通过实际设置而不是销售口头承诺验证。日志系统本身也是高价值攻击目标,需要访问报警与定期权限回顾。
七个问题完成内部评审
针对每层日志询问:保存的业务理由是什么、谁能访问、何时删除、是否含敏感内容、能否跨系统关联、删除能否复核、总成本是否可解释。用一条真实但经过脱敏的业务链路演示从用户请求到人工审批再到工具动作的取证步骤。每次增加新的AI工具、资料库或新地区用户,都重新审查日志字段。只有能解释数据用途并验证保留与删除的设计,才可以称为可靠治理;采购不应把“我们默认记录所有内容”当作更安全的证明。样例评分可把一条日志按四个维度打分:事故取证必要性、个人信息敏感度、访问频率、删除可实现性。评分不用于直接替代法规,而是识别需要安全负责人决策的高风险组合。比如完整客服聊天可能取证价值高、敏感度也高,应优先考虑有期限的加密保全,而不是向全公司开放永久检索。对于模型训练质量分析,可以采用匿名化指标和抽样授权,不把“分析业务表现”作为收集所有客户原文的充分理由。
Sources(官方与研究资料,查阅2026-11-16)
- NIST SP 800-92, September 2006
- OWASP Top 10 for LLM Applications 2025
- OpenTelemetry GenAI attributes and sensitive message warning
图片:Unsplash。文中金额与数量均为透明假设,不是外部统计。
发布者:Tuike BI,转转请注明出处:https://www.tuikebi.com/archives/7236