Duaer

指南

人在回路(Human in the Loop)是什么意思:2027年你的团队处在哪一步

本文整理自 Duaer 文档站,解释 human in the loop 的确切含义、与相近概念的区别、企业所处的几个阶段,以及如何为 AI 输出设置有效的人工审核闸门。

问题背景

搜索“human in the loop meaning”的人,通常并不是想查一个词典定义。他们手里已经有一套会产出结果的 AI 系统,比如合同条款草稿、客户回复、工单分类或自动生成的报告,需要决定在这些结果送达客户、监管方或生产系统之前,由谁来检查。这个词听起来简单,但如果团队随意使用,往往会落入两种糟糕的局面:要么每一个输出都要等人工确认,效率优势荡然无存;要么实际上没有人认真审核,错误在无人察觉的情况下流向外部。

在企业场景中,人在回路(HITL)是一项设计选择,它回答的是一个范围不大却十分关键的问题:在自动化流程的哪些节点上,有人拥有相应的权限、信息和时间,能够批准、修正或叫停系统的运行?要把这个问题答对,关键不在模型本身,而在模型周围的流程。

人在回路的含义

人在回路指的是这样一种系统:人在既定节点参与 AI 的决策循环,而不是让系统独自行动。这里的关键词是“既定”。HITL 并不是一句“有人参与其中”的笼统承诺,而是一组具体的检查点,在每个检查点上,一位明确指定的人可以做三件事之一:批准输出、修正输出,或者终止流程。

与之容易混淆的还有另外两个相关概念。人在回路之上(human on the loop)指的是有人监控系统并能随时介入,但默认并不逐个批准每一步动作。人在回路之外(human out of the loop)指的是系统在没有常规审核的情况下运行,人类只在事后查看汇总结果。人在回路则介于两者之间:系统提出方案,人在闸门处做决定,并且决定会被记录下来。

有一个实用的判断方法:如果在某个节点上拿掉人,流程里除了少了一个签字之外没有任何其他变化,那么这个节点并不是真正的 HITL。真正的检查点会改变后续走向。审核人的驳回会把事项退回重办,他的修改则会变成团队可以学习的数据。

如何判断你的组织处在哪个阶段

HITL 不是一个非此即彼的开关。大多数企业会经历几个可以辨认的阶段,而合适的阶段取决于任务的风险,而不是团队自我感觉有多先进。

第一阶段,AI 用于起草或提建议,所有最终工作仍由人完成,没有正式的审核环节。这在早期试点中很常见。由于没有任何东西未经检查就离开团队,风险较低,但团队也无法说清楚哪些输出被检查过、由谁检查。

第二阶段,针对特定输出设置了审核闸门,通常是那些对外有影响的内容,例如客户消息、财务数字或法律措辞。审核人负责批准或编辑,团队开始看到哪些内容经常被修正,从中发现规律。如果企业已经有正式运行的用例,大多数应该处在这一阶段。

第三阶段,团队利用审核数据调整系统并收窄闸门。低风险、长期稳定正确的输出转为抽样审核,高风险输出仍然全量审核。闸门从形式变为真正的风险控制手段。

要判断自己处在哪个阶段,可以问三个问题:你能否列出每一种会触达外部方的 AI 输出类型?对于每一种,你能否说出负责审核的人是谁?你是否保存了审核人做过哪些修改的记录?如果第二或第三个问题的答案是否定的,那么无论你已经购买了多少工具,你都仍处在第一阶段。

三个常见误解

第一个误解是,HITL 意味着让人看每一个输出。这听起来很稳妥,但在实践中通常行不通。每天面对数百条内容的审核人很快就会在不阅读的情况下直接批准,这比完全不审核更糟,因为它制造了一份虚假的监督记录。好的 HITL 设计应当根据后果和不确定性来选择哪些输出需要人工介入,并接受低后果的输出可以抽样审核而不必全量审核。

第二个误解是,审核人的工作只是找出错误。在设计良好的闭环中,审核人还会产生团队改进系统所需的信号。如果修正信息没有以结构化方式记录下来,比如哪个字段出错、正确值应该是什么、原因是什么,那么这个闭环就只是一个检查点,而不是学习机制。很多团队要等到审核了一年之后才发现,这些审核从未反馈到提示词、检索数据源或评估集中。

第三个误解是,HITL 可以替代治理。没有清晰权限的人在回路中只是摆设。如果审核人在截止时间压力下无法驳回输出,或者不清楚应当适用哪条政策,这个检查点就无法降低风险。对于受监管的工作,闭环还需要可追溯性:谁批准了什么、什么时候批准、基于哪个版本的模型或提示词。把审计追踪当作事后补充的团队,往往会发现他们的审核闸门在日后无法回答最基本的问题。关于这一点的更深入讨论,可参阅人工审批闸门与审计追踪。

一个可行的闭环应该怎样搭建

一个可行的 HITL 设计应当从梳理输出清单开始,而不是从编写政策文件开始。列出工作流中每一个由 AI 生成的输出、它所抵达的去向,以及该去向出错的代价。涉及客户、影响资金或触及个人数据的输出排在最前面;仅用于内部草稿的输出排在最后。

接下来,为每一个高后果输出定义闸门。闸门需要四样东西:一个明确的审核角色、清晰的验收标准、一条将事项退回给指定负责人的驳回路径,以及每次决定的日志记录。其中验收标准最为关键。“看起来没问题”不是标准,“金额与原始发票一致,且条款引用了现行模板”才是标准。

最后,把审核结果反馈回系统。每月抽样一次被驳回和被修改的输出,按错误类型归类,并决定适用哪种修复方式:修改提示词、补充缺失的数据源、澄清模糊的政策,或者明确模型永远不应处理的情形。这一步是大多数团队会跳过的,而它恰恰决定了这个闭环会不会随时间缩小。

在工作流层面,这些闸门在实践中通常会在哪些环节失效,可参阅AI 工作流中的人工复核,其中梳理了常见的故障点。

本周行动与收尾

选出一个已经会触达团队以外人员的 AI 输出。用一页纸写下:目前由谁检查它,检查什么,发现问题后会发生什么。如果其中任何一项答案不清楚,你就找到了第一个 HITL 缺口。然后就三件事做出决定:审核角色、一条新人也能执行的验收规则,以及一份包含四列的简单日志,分别是日期、输出编号、决定和修改原因。

在添加其他内容之前,先把这道闸门运行两周。目标不是做到完美审核,而是诚实记录这个闭环究竟抓住了哪些问题。如果你希望跨多个工作流搭建类似的闸门、路由和日志,而不必每次重新构建,可以试用 Duaer,它面向需要把 AI 输出连接到审核环节的团队。它并不能替代你自己的验收标准,你仍然需要定义在你的业务中,什么样的输出才算正确。

归根结底,人在回路意味着人在自动化流程中拥有明确定义、并被记录下来的决策权限,而且这个人的决定会改变后续走向。从梳理 AI 输出抵达外部世界的位置开始,只在出错代价高昂的地方设置闸门,并利用审核中的修正不断改进系统。如需获得针对你自身场景的书面落地路线,包括审核闸门应设在何处、由谁负责,可前往 Duaer 注册,在真实工作流上试用。如果你描述你的应用场景,我们可以回复一份书面说明,指出人应当在回路的哪个位置,以及第一道闸门应该是什么样子。请告诉我们你的场景,我们将为其回复一份书面落地路线。表单地址:https://api.duaer.com/form/c59a907a-3697-4edf-a04d-3ea0fb72fdc8

常见问题

human in the loop、human on the loop 和 human out of the loop 有什么区别?

human in the loop 指人在既定节点参与决策,对输出做出批准、修正或终止,并记录决定;human on the loop 指人监控系统并可随时介入,但默认不逐个批准;human out of the loop 指系统在没有常规审核的情况下运行,人只事后查看汇总结果。判断标准是:拿掉某个节点上的人,流程是否会因此改变。

企业应该在哪些 AI 输出上设置人工审核?

优先考虑那些会触达客户或外部方、影响资金、触及个人数据或涉及法律措辞的输出。仅用于内部草稿的低后果输出可以改为抽样审核。具体范围应根据出错代价和不确定性来确定,而不是对所有输出一律全量审核。

人工审核应该记录哪些信息?

至少应记录日期、输出编号、审核决定以及修改原因。如果涉及受监管的工作,还应记录审批人是谁、审批时间,以及对应的模型或提示词版本。结构化记录的修正信息,例如哪个字段出错、正确值是什么,才能反馈用于改进提示词、数据源和评估集。