> For the complete documentation index, see [llms.txt](https://doc.duaer.com/zh/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://doc.duaer.com/zh/guides/ai-security-compliance-2027-pilot-checks.md).

# 2027年AI安全合规：试点上线前的五项检查

本文整理自 Duaer 文档站，围绕企业 AI 试点在安全与法务审查中的常见卡点，介绍 2027 年 AI 安全合规的核心思路与上线前的检查要点。

## 试点为何停滞在安全审查

多数企业 AI 试点不是败在演示环节，而是卡在安全审查。团队做出一个好用的助手，拿给业务部门看，却被安全或法务负责人的一个简单问题拦下：数据流向哪里，谁能看到提示词，模型给出无法解释的答案时怎么办？到这时，项目已经有预算、有发起人、有截止日期，却没有人能给出清楚的答复。

这正是 2027 年 AI 安全合规面临的真实痛点。员工已经在把客户记录、合同条款和源代码粘贴到外部工具中；供应商更新条款的速度快过采购部门的审阅速度；审计团队索要的日志却从未被记录。问题不在于规则缺失，而在于纸面政策与系统在员工输入提示词那一刻真正执行之间，存在明显距离。

## 为何 AI 安全合规比传统 IT 合规更难

传统 IT 合规默认系统是确定性的，数据沿着已知路径流动，例如数据库、文件共享和 API。生成式 AI 同时打破了这两个假设：相同输入可能产生不同输出；模型本身可能由第三方托管、基于内部数据微调，或连接了从多个系统检索文档的工具。一个助手在一次请求中就可能同时涉及身份认证、存储、日志和外部网络。

因此，为数据库设计的控制措施并不够用。你需要清楚知道哪些内容进入了上下文窗口，由哪个模型处理，存储在哪里，是哪个用户或智能体触发的，以及输出是否展示给了不该看到的人。许多团队在第一次审计时才发现，自己只能回答其中一两个问题。

## 让团队停滞的三个错误

第一个错误是把政策当成控制措施。一份写着员工不得上传机密数据的文件有其价值，但它无法阻止上传行为。在可能的情况下，合规需要技术手段来执行，例如批准使用的工具清单、访问时的数据分级，以及限定助手可检索的数据源。

第二个错误是把供应商证书当成自身的合规。服务商持有公认的安全认证固然重要，但认证覆盖的是服务商的环境，而不是你的提示词、访问规则、留存设置，也不是员工使用该工具的方式。配置与证据依然由你负责。

第三个错误是一刀切地禁止。当所有 AI 请求的答案都是否定的，员工就会用个人账号和未受管理的浏览器插件绕开政策。这种影子使用往往是组织内最大的风险，而且对安全团队来说是不可见的。可行的方案是为员工提供一条足够好用的合规路径。

## 从数据与用例清单开始

最有用的第一步看似平淡：列出所有已存在或计划中的 AI 用例，并为每个用例记录涉及的数据类别、使用者、模型或供应商，以及业务负责人。也要包括非正式的用法，可以询问经理哪些团队已在用聊天机器人起草文档、做分析或进行代码审查。你通常会发现，实际使用的场景比官方项目清单多得多。

清单建立后，应按数据敏感度而不是技术复杂度对用例排序。基于公开材料制作的营销草稿只需轻量审查；而用于汇总人事档案或患者记录的工具则需要严格得多的边界。这种排序能告诉你应优先把合规精力投向哪里，也能避免低风险试点与高风险项目接受同样繁重的审查，或者反过来。

如果你的核心诉求是把敏感数据限制在可控边界之内，可以参考 Duaer 文档站中关于企业 AI 数据驻留的讨论，它有助于厘清哪些内容可以离开本域，哪些内容必须在不暴露的前提下保持可用。

## 按 AI 生命周期映射控制措施，并在试点中落实访问、日志与供应商条款

一个实用的框架是沿着一次请求的路径逐步设置控制点。在输入阶段，通过分级标签、标识符脱敏和受限字段拦截，控制哪些数据可以进入提示词。在检索阶段，控制系统可以访问哪些文档，并强制执行用户在源系统中原有的权限。如果一名初级员工无法在文件库中打开董事会文件，助手也不应将其展示出来。

在模型阶段，记录托管位置、供应商的数据使用条款、提示词是否用于训练，以及服务商保留日志的时长。在输出阶段，决定系统的答案可以用来做什么。经人工审阅的草稿与直接触发付款或修改记录的答案，风险截然不同。最后，以审阅人日后能够读懂的形式记录每一步。

许多试点是以实验名义获批的，之后在没有补齐控制措施的情况下悄然进入生产环境。解决办法是让试点本身满足最低标准：上线前要求单点登录、基于角色的访问控制、明确的数据负责人、既定的留存期限，以及事先约定的日志结构。供应商条款应与其他数据处理方一样接受审查，重点关注分包商、事件通知和数据删除权利。

如果你希望把上文所述的清单管理、访问规则和审计日志整合为一个可重复执行的流程，而不是散落在多份表格中，可以在 Duaer 上进行搭建，网址为 https://www.duaer.com。这是产品推荐，并非中立评测，正式采用前请结合自身的数据类别和监管要求进行测试。

## 衡量审计与安全团队真正关心的指标，并在本周行动

只有能拿出证据，合规才可信。建议选取一小组与审阅人问题对应的指标，例如：AI 用例清单中有多少条目、其中有多少已指定负责人；生产环境用例中有多少具备能够还原请求过程的日志；数据分级拦截触发了多少次，每次如何处理；已完成审阅的供应商协议有多少份；每个风险层级的新用例平均审批耗时多久。

对内发布的数字需要谨慎解读。事件数量少，可能说明控制有效，也可能说明根本没有人在记录。每个指标都应配套一项覆盖率检查。更完整的治理清单可以参考 Duaer 文档站中关于 2027 年企业 AI 治理与安全合规的指南。

你不需要一套完整的体系才能开始推进。本周可以做三件事：第一，向每个业务单元索取正在使用的 AI 工具清单，包括免费账号和个人账号，并记录每个工具涉及的数据类别；第二，选出敏感度最高的一个用例，用一页纸写清楚谁可以访问、它能看到什么数据、日志去向何处、输出由谁审批；第三，把这一页纸连同一个截止日期提交给安全和法务部门，请其做出放行或否决的决定。

如果你希望有一个结构化的平台来执行这份清单以及访问与日志检查，可以前往 https://www.duaer.com 注册试用，并在一个真实用例上测试该流程。判断标准不是试点启动得有多快，而是你的安全团队能否用证据回答他们的问题。

2027 年的 AI 安全合规，与其说是编写一份完美的政策，不如说是从第一个试点开始，就让每一次请求都可追溯、有边界、可审阅。

## 常见问题

### 企业 AI 试点为什么常常卡在安全审查阶段？

常见原因是团队在立项时没有想清楚数据去向、提示词可见范围、供应商条款和日志记录等问题。等到安全或法务部门提出疑问时，项目已有预算和截止日期，却无法给出明确答复。解决办法是在上线前就建立数据用例清单，并为试点设定最低的访问控制、日志和供应商审查标准。

### AI 安全合规与传统 IT 合规有什么区别？

传统 IT 合规假设系统是确定性的，数据沿固定路径流动。生成式 AI 的输出具有不确定性，模型可能由第三方托管或连接多个检索源，一次请求可能同时涉及身份、存储、日志和外部网络。因此，仅针对数据库设计的控制措施不足以覆盖 AI 场景，需要追踪上下文内容、处理模型、存储位置、触发者以及输出的去向。

### 企业如何开始做 AI 安全合规检查？

可以从三件事入手：一是盘点各业务单元正在使用的 AI 工具，包括个人账号，并记录涉及的数据类别；二是挑选敏感度最高的用例，用一页纸说明访问人员、数据范围、日志位置和输出审批人；三是把这一页材料提交给安全和法务部门，请其在约定日期前做出放行或否决的决定。