> For the complete documentation index, see [llms.txt](https://doc.duaer.com/zh/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://doc.duaer.com/zh/guides/agent-tool-call-security-detection-retry.md).

# 智能体工具调用安全检测怎么做？2027年企业要守住的五道关

本文整理自 Duaer 文档站，梳理智能体工具调用的权限、参数、出口和结果回注等风险，说明企业如何在智能体动手之前，用独立的策略环节拦住越界行为。

## 工具调用安全检测要解决什么

智能体一旦接上数据库、邮件、审批系统和内部 API，风险就从“说错话”变成了“做错事”。很多企业上线智能体时，把注意力放在模型回答得准不准上，却没有人认真追问：它调用的工具是否在授权范围内？参数是否被恶意内容篡改？一次调用会不会把敏感数据发到外部？工具调用安全检测，就是专门回答这些问题的那一层防护。它不替代模型评测，而是在智能体真正“动手”的那一刻拦住越界行为。

## 为什么工具调用比模型输出更难管

传统大模型应用的输出是一段文字，即使有问题，影响通常停留在阅读环节，人可以再核对。智能体则不同，它会自主决定调用哪个工具、传什么参数、按什么顺序执行，而且中间结果会继续喂给下一步决策。一个被注入了恶意指令的网页、一封被伪造的工单，都可能让智能体在没有人察觉的情况下发出一条删除记录的请求。

难点主要有三个。其一，调用链长，单步看似合理，串起来却可能越权。其二，参数由模型生成，传统的输入校验往往只检查格式，不检查语义。其三，工具大多是为人设计的接口，权限粒度粗，一个“查询客户”的接口背后可能连着全量手机号。因此，光给模型加一段“请勿泄露敏感信息”的系统提示，远远不够。

## 常见误区：把安全寄托在提示词上

最常见的误区是认为写好系统提示就能防住风险。提示词只是软约束，攻击者可以通过间接注入绕过它。另一个误区是只在上线前做一次红队测试，之后工具列表、权限和业务规则都在变，测试结论很快失效。还有一种情况是把安全检测放在日志事后审计里，等发现异常时，数据已经外发，审计只能用来复盘，无法阻断。

正确的思路是把检测做成运行时的独立环节：智能体每发起一次工具调用，都要经过一道策略判断，决定放行、改写、要求人工确认还是直接拒绝。这道关口应当独立于模型本身，这样即便模型被诱导，策略层仍然有效。

## 检测要覆盖哪几层

一套可落地的工具调用安全检测，通常至少覆盖五个维度。第一是身份与权限：这个智能体代表哪个用户、哪个角色，它能访问的工具是否与角色一致，而不是默认拥有全部工具。第二是参数校验：对金额、记录 ID、收件人等关键字段做范围和业务规则检查，例如单次转账上限、只能查询本部门数据。第三是目标与出口：工具要访问的地址是否在白名单内，返回数据是否会被送往外部服务。第四是频次与异常：短时间内大量调用同一工具、反复失败后换参数重试，都应触发告警或熔断。第五是结果回注：工具返回的内容会不会包含新的指令，是否需要先做清洗再交给模型。

## 怎么做才对：先分级，再拦截

不是每一次调用都需要同等强度的审查。建议先把工具按风险分级：只读且不含敏感字段的查询可以自动放行；写入类、涉及个人信息或资金的操作，应设置参数规则并在关键节点要求人工确认；删除、批量导出、对外发送等高风险动作，默认需要双人审批或直接禁止。分级的好处是把有限的人力集中在真正危险的地方，避免所有调用都排队等人点头，最终导致业务方绕过检测。

在实现上，可以把检测规则写成独立的策略文件，与智能体代码分开管理和版本化。每次工具调用的请求、判定结果、命中的规则和最终执行情况都要结构化记录，便于复盘和优化规则。对于企业已经在做的流程，可以先从一个高频但风险可控的工具开始，跑通整条链路后再扩展。如果你希望把这套“分级、策略、记录”的流程直接跑起来，可以在 Duaer 中搭建工具调用的策略与审计环节，把规则和日志放在同一处管理，减少跨系统拼接的成本。

## 怎么衡量，以及本周就做什么

拦截次数本身并不能说明系统好坏。拦截过多，说明规则可能误伤正常业务，智能体会频繁卡住；拦截过少，又可能意味着检测形同虚设。更有参考价值的指标包括：高风险调用中有多少经过了人工或策略判定，误报率和漏报率分别是多少，漏报案例是否在规则更新后被覆盖，以及业务方对等待时间的投诉是否在下降。每月抽样复盘一批调用记录，比看一个总数更能暴露问题。

本周不必急于买工具，先盘点一张清单：列出目前智能体能调用的全部工具，标注每个工具能读什么、能写什么、能把数据发到哪里，并给每个工具打上高、中、低三档风险。然后挑出风险最高的三个工具，确认它们是否有独立的参数规则和告警。这张清单做完，你就知道下一步该先补哪道关。安全合规的底线越早画清楚，智能体扩展到更多业务时，返工就越少。

如果你想进一步了解上线前还应检查哪些项目，可以参考这篇指南：[2027年AI安全合规：试点上线前的五项检查](https://doc.duaer.com/zh/guides/ai-security-compliance-2027-pilot-checks/)。

如果你的团队正在规划智能体落地，也可以先看看[企业智能体落地的最佳实践](https://doc.duaer.com/zh/guides/enterprise-agent-implementation-best-practices/)，把集成和安全放在同一张路线图上考虑。

工具调用安全检测不是一次性的项目，而是智能体每次行动前都要过的一道门。想把这套流程在实际环境里跑起来，欢迎到 https://www.duaer.com 注册试用 Duaer，自行验证策略配置和审计记录是否符合你的业务要求。

如果你告诉我们你所在的业务场景，我们可以免费给你一份这个场景的落地路线，帮你梳理工具分级、策略规则和第一个试点该从哪里开始。

https://api.duaer.com/form/1fea7709-3f8a-47f7-b4e3-eb5fb90e3213

## 常见问题

### 智能体工具调用安全检测和模型评测有什么区别？

模型评测关注回答的准确性和质量，通常在上线前或版本迭代时进行；工具调用安全检测则在智能体每次真正执行操作时运行，判断调用的权限、参数、目标地址和返回内容是否越界，并决定放行、改写、人工确认还是拒绝。两者互补，不能相互替代。

### 企业应该先为哪些工具做调用安全检测？

建议先盘点智能体可调用的全部工具，标注每个工具能读取什么、能写入什么、数据会发往哪里，并按高、中、低风险分级。优先处理风险最高的工具，例如涉及资金、个人信息、删除或对外发送的接口，为其设置独立的参数规则和告警。

### 为什么不能只靠系统提示词来防止智能体越权？

系统提示词属于软约束，攻击者可以通过网页、工单等外部内容进行间接注入，诱导模型绕过指令。更可靠的做法是把检测做成独立于模型的运行时策略层，每次工具调用都经过判定，即使模型被诱导，策略层仍能阻止越界操作。

