> For the complete documentation index, see [llms.txt](https://doc.duaer.com/zh/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://doc.duaer.com/zh/guides/human-in-the-loop-meaning.md).

# 人在回路（Human in the Loop）是什么意思：2027年你的团队处在哪一步

本文整理自 Duaer 文档站，解释 human in the loop 的确切含义、与相近概念的区别、企业所处的几个阶段，以及如何为 AI 输出设置有效的人工审核闸门。

## 问题背景

搜索“human in the loop meaning”的人，通常并不是想查一个词典定义。他们手里已经有一套会产出结果的 AI 系统，比如合同条款草稿、客户回复、工单分类或自动生成的报告，需要决定在这些结果送达客户、监管方或生产系统之前，由谁来检查。这个词听起来简单，但如果团队随意使用，往往会落入两种糟糕的局面：要么每一个输出都要等人工确认，效率优势荡然无存；要么实际上没有人认真审核，错误在无人察觉的情况下流向外部。

在企业场景中，人在回路（HITL）是一项设计选择，它回答的是一个范围不大却十分关键的问题：在自动化流程的哪些节点上，有人拥有相应的权限、信息和时间，能够批准、修正或叫停系统的运行？要把这个问题答对，关键不在模型本身，而在模型周围的流程。

## 人在回路的含义

人在回路指的是这样一种系统：人在既定节点参与 AI 的决策循环，而不是让系统独自行动。这里的关键词是“既定”。HITL 并不是一句“有人参与其中”的笼统承诺，而是一组具体的检查点，在每个检查点上，一位明确指定的人可以做三件事之一：批准输出、修正输出，或者终止流程。

与之容易混淆的还有另外两个相关概念。人在回路之上（human on the loop）指的是有人监控系统并能随时介入，但默认并不逐个批准每一步动作。人在回路之外（human out of the loop）指的是系统在没有常规审核的情况下运行，人类只在事后查看汇总结果。人在回路则介于两者之间：系统提出方案，人在闸门处做决定，并且决定会被记录下来。

有一个实用的判断方法：如果在某个节点上拿掉人，流程里除了少了一个签字之外没有任何其他变化，那么这个节点并不是真正的 HITL。真正的检查点会改变后续走向。审核人的驳回会把事项退回重办，他的修改则会变成团队可以学习的数据。

## 如何判断你的组织处在哪个阶段

HITL 不是一个非此即彼的开关。大多数企业会经历几个可以辨认的阶段，而合适的阶段取决于任务的风险，而不是团队自我感觉有多先进。

第一阶段，AI 用于起草或提建议，所有最终工作仍由人完成，没有正式的审核环节。这在早期试点中很常见。由于没有任何东西未经检查就离开团队，风险较低，但团队也无法说清楚哪些输出被检查过、由谁检查。

第二阶段，针对特定输出设置了审核闸门，通常是那些对外有影响的内容，例如客户消息、财务数字或法律措辞。审核人负责批准或编辑，团队开始看到哪些内容经常被修正，从中发现规律。如果企业已经有正式运行的用例，大多数应该处在这一阶段。

第三阶段，团队利用审核数据调整系统并收窄闸门。低风险、长期稳定正确的输出转为抽样审核，高风险输出仍然全量审核。闸门从形式变为真正的风险控制手段。

要判断自己处在哪个阶段，可以问三个问题：你能否列出每一种会触达外部方的 AI 输出类型？对于每一种，你能否说出负责审核的人是谁？你是否保存了审核人做过哪些修改的记录？如果第二或第三个问题的答案是否定的，那么无论你已经购买了多少工具，你都仍处在第一阶段。

## 三个常见误解

第一个误解是，HITL 意味着让人看每一个输出。这听起来很稳妥，但在实践中通常行不通。每天面对数百条内容的审核人很快就会在不阅读的情况下直接批准，这比完全不审核更糟，因为它制造了一份虚假的监督记录。好的 HITL 设计应当根据后果和不确定性来选择哪些输出需要人工介入，并接受低后果的输出可以抽样审核而不必全量审核。

第二个误解是，审核人的工作只是找出错误。在设计良好的闭环中，审核人还会产生团队改进系统所需的信号。如果修正信息没有以结构化方式记录下来，比如哪个字段出错、正确值应该是什么、原因是什么，那么这个闭环就只是一个检查点，而不是学习机制。很多团队要等到审核了一年之后才发现，这些审核从未反馈到提示词、检索数据源或评估集中。

第三个误解是，HITL 可以替代治理。没有清晰权限的人在回路中只是摆设。如果审核人在截止时间压力下无法驳回输出，或者不清楚应当适用哪条政策，这个检查点就无法降低风险。对于受监管的工作，闭环还需要可追溯性：谁批准了什么、什么时候批准、基于哪个版本的模型或提示词。把审计追踪当作事后补充的团队，往往会发现他们的审核闸门在日后无法回答最基本的问题。关于这一点的更深入讨论，可参阅[人工审批闸门与审计追踪](https://doc.duaer.com/zh/guides/ai-audit-trails-human-gates/)。

## 一个可行的闭环应该怎样搭建

一个可行的 HITL 设计应当从梳理输出清单开始，而不是从编写政策文件开始。列出工作流中每一个由 AI 生成的输出、它所抵达的去向，以及该去向出错的代价。涉及客户、影响资金或触及个人数据的输出排在最前面；仅用于内部草稿的输出排在最后。

接下来，为每一个高后果输出定义闸门。闸门需要四样东西：一个明确的审核角色、清晰的验收标准、一条将事项退回给指定负责人的驳回路径，以及每次决定的日志记录。其中验收标准最为关键。“看起来没问题”不是标准，“金额与原始发票一致，且条款引用了现行模板”才是标准。

最后，把审核结果反馈回系统。每月抽样一次被驳回和被修改的输出，按错误类型归类，并决定适用哪种修复方式：修改提示词、补充缺失的数据源、澄清模糊的政策，或者明确模型永远不应处理的情形。这一步是大多数团队会跳过的，而它恰恰决定了这个闭环会不会随时间缩小。

在工作流层面，这些闸门在实践中通常会在哪些环节失效，可参阅[AI 工作流中的人工复核](https://doc.duaer.com/zh/guides/human-in-the-loop-ai-workflow-review/)，其中梳理了常见的故障点。

## 本周行动与收尾

选出一个已经会触达团队以外人员的 AI 输出。用一页纸写下：目前由谁检查它，检查什么，发现问题后会发生什么。如果其中任何一项答案不清楚，你就找到了第一个 HITL 缺口。然后就三件事做出决定：审核角色、一条新人也能执行的验收规则，以及一份包含四列的简单日志，分别是日期、输出编号、决定和修改原因。

在添加其他内容之前，先把这道闸门运行两周。目标不是做到完美审核，而是诚实记录这个闭环究竟抓住了哪些问题。如果你希望跨多个工作流搭建类似的闸门、路由和日志，而不必每次重新构建，可以试用 [Duaer](https://www.duaer.com)，它面向需要把 AI 输出连接到审核环节的团队。它并不能替代你自己的验收标准，你仍然需要定义在你的业务中，什么样的输出才算正确。

归根结底，人在回路意味着人在自动化流程中拥有明确定义、并被记录下来的决策权限，而且这个人的决定会改变后续走向。从梳理 AI 输出抵达外部世界的位置开始，只在出错代价高昂的地方设置闸门，并利用审核中的修正不断改进系统。如需获得针对你自身场景的书面落地路线，包括审核闸门应设在何处、由谁负责，可前往 [Duaer](https://www.duaer.com) 注册，在真实工作流上试用。如果你描述你的应用场景，我们可以回复一份书面说明，指出人应当在回路的哪个位置，以及第一道闸门应该是什么样子。请告诉我们你的场景，我们将为其回复一份书面落地路线。表单地址：https://api.duaer.com/form/c59a907a-3697-4edf-a04d-3ea0fb72fdc8

## 常见问题

### human in the loop、human on the loop 和 human out of the loop 有什么区别？

human in the loop 指人在既定节点参与决策，对输出做出批准、修正或终止，并记录决定；human on the loop 指人监控系统并可随时介入，但默认不逐个批准；human out of the loop 指系统在没有常规审核的情况下运行，人只事后查看汇总结果。判断标准是：拿掉某个节点上的人，流程是否会因此改变。

### 企业应该在哪些 AI 输出上设置人工审核？

优先考虑那些会触达客户或外部方、影响资金、触及个人数据或涉及法律措辞的输出。仅用于内部草稿的低后果输出可以改为抽样审核。具体范围应根据出错代价和不确定性来确定，而不是对所有输出一律全量审核。

### 人工审核应该记录哪些信息？

至少应记录日期、输出编号、审核决定以及修改原因。如果涉及受监管的工作，还应记录审批人是谁、审批时间，以及对应的模型或提示词版本。结构化记录的修正信息，例如哪个字段出错、正确值是什么，才能反馈用于改进提示词、数据源和评估集。

