Duaer

指南

欧盟AI法案审计追踪(2027):高风险AI系统必须保留哪些日志

本文整理自 Duaer 文档站,梳理高风险 AI 系统在欧盟 AI 法案框架下应保留的审计日志,包括需要回答的四个问题、常见错误、设计方法与衡量指标。

为什么监管机构首先会问审计追踪

很多团队一听到“欧盟AI法案”,首先想到的是风险分级或模型文档。但当客户、内部审计人员或监管机构问出一个具体问题时,例如“3月3日做出这个决定的是哪个版本的模型?输入是什么?谁批准了这次变更?”,很少有团队能当场回答。问题通常不在于团队故意违规,而是记录根本没有被保存下来。

对于高风险AI系统,该法案要求在系统全生命周期内自动记录事件,以便追溯系统的运行过程。提供方和部署方还必须在规定的保存期限内保留这些日志。具体期限和义务范围在立法过程中有过调整,团队应与法务顾问确认当前时间表。不变的是方向:可追溯性必须在设计阶段就纳入,而不是在事故发生后再去补记。

审计追踪真正需要回答什么

定义审计追踪的一种实用方式是:一组记录,使外部人员无需依赖任何人的记忆,就能按顺序还原发生了什么。对于AI系统,通常需要回答四个问题。

第一,当时运行的是哪个版本?这包括模型标识、提示词模板版本、检索索引版本、工具配置和策略设置。其中任何一项被悄悄改动,过去决策的记录都会变得不可靠。

第二,输入了什么,输出了什么?这是最难的部分,因为它涉及个人数据。保存完整输入可能带来新的隐私风险,而什么都不存又会让追踪失去意义。可行的折中方案是保存结构化引用、哈希值或脱敏后的载荷,并制定清晰的保留规则。

第三,谁做了什么?人工干预、配置变更和审批都应能归属到具名的角色和账户。

第四,事情何时发生,顺序如何?时间戳必须来自统一的时间源,记录必须具备防篡改性。追加写入(append-only)日志或一次写入的存储,比任何人都能编辑的电子表格可信得多。

团队常见的四个错误

第一个错误是把应用日志当作审计日志。应用日志是为调试而设计的,轮转很快,经常缺少审计人员需要的字段,而且很少有防篡改保护。直接拿它用于合规,通常在第一次真实的审查请求时就会失败。

第二个错误是不分目的地记录一切。有些团队把每次对话的每个 token 都存下来,结果发现自己积累了大量敏感数据,而这些数据现在也要遵守他们自己的数据保护规则。日志应当依据一份有文档记录的事件清单,并与系统带来的风险相匹配。

第三个错误是忽略供应商这一层。如果模型通过外部API调用,部署方往往看不到供应商的内部日志。因此,部署方自己的追踪必须记录请求、响应、供应商报告的模型版本,以及供应商公布的任何变更。合同中应明确供应商保留什么、保留多久。

第四个错误是把审计追踪当成一次性项目。模型会更新,提示词会修改,新工具会接入。如果追踪记录不随之变化,它描述的就是一个已经不存在的系统。

如何正确设计追踪体系

设计应从系统的风险以及它所影响的决策出发,而不是从日志工具出发。列出重要事件:模型调用、所用的检索结果、交付给用户的输出、人工批准或驳回、配置变更,以及错误和降级处理。对每类事件,定义所需字段、保存期限、谁可以读取记录、谁可以修改记录。任何人都不应能在事后编辑记录。

接下来,将追踪记录与内容分离。在受保护的系统中保存紧凑的事件记录,并将原始载荷存放在受限存储中,设置独立的访问控制和删除计划。这样既能保证审计证据可靠,又能减少个人数据的复制扩散。

最后,对所有影响系统行为的内容进行版本管理。提示词、检索配置和策略规则应放在版本控制中,每次部署都关联到具体的提交或发布标识。这一步常被许多团队忽略,但正是它能让追踪在几秒钟内回答“是哪个版本”,而不是耗时数天。

一个实用建议:选择一个高风险工作流,例如信贷预筛选助手或候选人排序工具,用一页纸写出它的事件结构(schema)。让项目之外的人仅凭日志尝试还原一次过去的决策,他们卡住的地方,恰恰就是你的追踪记录不完整之处。如果团队希望在不从零搭建每个组件的情况下运行这类结构与保留策略设置,可以在 Duaer 上为试点项目进行测试,它是一种可选方案,用于串联日志、版本记录和访问控制;但上述设计决策仍需由你自己的团队作出。

如何衡量追踪是否有效

审计追踪的好坏取决于它的测试。以下三项指标值得持续跟踪。

还原耗时:审阅人员解释一次过去输出需要多长时间,从请求、所用版本,到人工批准。建议按月跟踪,并观察随着设计成熟而下降的趋势。

完整率:抽取近期的一批交互,统计必需字段实际存在的比例。缺口通常集中在供应商调用和人工干预环节。

访问审查结果:是否有已批准角色之外的人能读取或修改记录,删除是否按照保留计划执行。一份完整但可编辑的追踪记录,无法满足严格的审查人员。

避免用数据量来判断追踪质量。每天记录十GB原始文本的系统,仍可能无法通过还原测试;而一份紧凑、结构良好的记录却能轻松通过。

如需更全面的治理背景,包括审计证据如何与责任归属和政策相衔接,可参阅我们的指南 2027年企业AI治理与安全合规。如果某条日志记录的事件确实是一次真实故障,响应步骤应纳入你的事件处理流程,AI事件响应手册 可以帮助你判断应优先保全哪些证据。

本周可以做什么

选择一个已经接触客户、员工或受监管决策的AI系统。写下它最近产生的三个输出,并针对每个输出尝试回答四个问题:哪个模型和提示词版本产生了它?它接收了什么输入?哪位人员批准或推翻了它?记录存放在哪里?凡是无法回答的地方,就是你发现的缺口。为每个缺口指定负责人和截止日期,并把这份清单作为你审计追踪规范的第一版。

如果需要一个范围有限的起点,可以访问 https://www.duaer.com 注册试用,先用它测试单一工作流的日志与版本追踪配置,再决定是否扩大部署。

欢迎告诉我们你的业务场景,我们会回复一份书面的落地路线:https://api.duaer.com/form/c59a907a-3697-4edf-a04d-3ea0fb72fdc8

常见问题

欧盟AI法案对高风险AI系统的审计日志有哪些基本要求?

法案要求高风险AI系统在全生命周期内自动记录事件,以便追溯运行过程,并由提供方和部署方在规定期限内保留日志。具体期限和范围在立法过程中有过调整,请以最新法律文本和法务意见为准。在实践中,审计追踪应能回答版本、输入输出、责任人和时间顺序四类问题。

AI审计日志和普通应用日志有什么区别?

应用日志主要用于调试,轮转快、字段不全,通常缺少防篡改保护。审计日志则要求能归属到具体角色、时间来源统一、不可随意修改,并能据此重建过去的决策过程。

如何验证企业的AI审计追踪是否真正有效?

可以抽取一个高风险工作流的近期输出,由项目之外的人员仅凭日志还原决策,并统计还原耗时、必需字段完整率,以及访问权限和删除策略是否合规。无法还原的环节即为追踪缺口。