指南
2027 年 RAG 分块策略:为什么切分文档会让答案出错
本文整理自 Duaer 文档站,探讨企业 RAG 知识助手中文档分块方式如何决定模型能看到哪些证据,并给出按文档类型选择策略、评估分块效果和记录配置的实操思路。
为什么分块比想象中更难
在任何 RAG 工程讨论中,都有人会说到同样的结论:模型本身没问题,检索才是问题,而真正的罪魁祸首是文档被怎样切开。论坛里的实践者反复谈到分块,是因为它看起来只是一个不起眼的预处理步骤,却决定了模型最终能看到哪些句子。对于 2027 年搭建内部知识助手的企业团队来说,一次糟糕的切分会让好模型显得不可靠,而一次恰当的切分又可能掩盖提示词的薄弱之处。问题在于,分块很少被有意识地测试。团队通常随手选一个默认尺寸,上线,然后在答案不完整时怪罪语言模型。
分块(chunk)是系统检索并交给模型的单位。如果分块太小,就会丢失上下文:一句「上述例外适用」被单独送出时,读者看不到那个例外是什么。如果分块太大,含义就会被稀释:向量表示的是多个主题的混合,搜索时对任何一个具体问题的排名都会下降。从外部看,这两种失败很相似,用户看到的都是一个大致正确但缺少条件、或者引用了错误段落的答案。
企业文档让情况更复杂。制度、合同、产品手册和会议纪要的结构各不相同。价格表中的表格、安全手册中的编号步骤和一段很长的邮件往来,如果用同一种方式切分,都会丢失各自的逻辑。单一的分块尺寸很难适配所有这些类型。
团队常犯的错误
第一个错误是只选一次尺寸,此后再也不回头检查。几百个 token 加上较小的重叠是一个合理的起点,但它只是起点。很多团队直接照搬教程里的设置,把它当成定论。
第二个错误是按字符或 token 切分,却不尊重文档结构。固定长度的切割可能停在一句话中间、一行表格中间,或者一个标题的中间。这样的分块会同时包含属于两个不同主题的文字,而向量表示两者都不能准确反映。
第三个错误是只看输出读起来是否顺畅来判断分块好坏。一个语句流畅的答案,仍然可能建立在错误的分块之上。如果没有检索环节的检查,你就无法判断模型拿到的是不是正确的证据。
按文档类型选择策略
没有一种通用的最优方案,但主要的几类方法很容易理解。带重叠的固定长度切分简单且可预期,适合作为基线,适用于 FAQ 条目这类本身已经很短、内容同质的文本。递归切分会先尝试按段落分隔,再按句子,最后才按字符切分。它比硬切保留了更多含义,适合大多数通用文档。结构感知切分则利用标题、章节编号、列表项和表格边界。对于制度、手册和合同,它通常是最合适的选择,因为作者已经标出了文档的逻辑单元。父子块或由小到大的方法,会把小块用于精确匹配,但把所在的完整章节返回给模型。当一句短话本身准确、却需要标题或前提条件才能理解时,这种方法很有帮助。
实践中的原则是让策略匹配文档自身的逻辑。如果原文有清晰的标题,就使用标题。如果文本是对话式的,带适度重叠的递归切分往往就够用了。如果答案依赖分散在一个章节各处的条件,可以考虑返回父级上下文。
如何正确测试分块效果
分块应当像任何其他工程决策一样被评估。先从真正会使用助手的人那里收集一小批真实问题,然后为每个问题记录哪一段原文包含答案。接着用两到三种分块配置运行检索,检查正确段落是否出现在前几名结果中。这衡量的是检索阶段的召回率,发生在模型生成任何内容之前。
接下来检查答案的忠实度:生成的答案是否使用了检索到的证据,是否遗漏或编造了条件?可以追踪几类失败情况,例如答案漏掉关键条件、答案引用了错误的章节、答案把两份制度混在了一起。这些类别能告诉你应该调整分块尺寸、重叠量还是结构。不要根据一两个问题就下结论。通常几十个有代表性的问题就足以看出清晰的规律,而且随着用户反馈失败案例,这个测试集会不断增长。
记录你的配置。分块尺寸、重叠量、切分规则和元数据字段都应当与索引一同进行版本管理。当有人在六周后报告一个错误答案时,你需要知道是哪一套配置产生了它。
元数据和切分同样重要
没有上下文的分块很难排序,也很难让人信任。请为每个分块附加文档标题、章节标题、生效日期、负责人和版本号。这样可以进行过滤,例如只检索当前有效的制度,而不是去年的草稿。它还让答案能够清楚地注明来源,方便用户核对论断。许多效果不佳的 RAG 系统失败,不是因为文本切得不好,而是因为没有任何信息告诉系统它正在读取的是哪一个版本。
本周可以做什么
选一个价值较高的知识源,例如一套人事制度,或一份产品故障排查指南。收集二十到三十个实际使用者提出的真实问题。搭建两种分块配置:一种是固定长度的基线,另一种是尊重标题的结构感知版本。针对每个问题分别运行检索,记录正确段落是否出现在前五条结果中。然后阅读失败案例,写下每一个失败的原因。规律通常会指向下一步该做的改动。
如果你希望在不自己拼接脚本的情况下完成这类对比,上述流程可以在 Duaer 中搭建和运行,它是为企业 AI 知识工作打造的平台。已经有文档集和问题清单的团队,可以用它并排测试不同配置,并把结果与对应设置一起保存。你可以访问 https://www.duaer.com 注册,用自己的材料进行尝试。
如果想了解知识助手为何容易停滞的整体背景,可以阅读企业知识库 AI 落地一文,它解释了为什么数据准备通常要先于问答环节。计划完整搭建的团队也可以对照企业 RAG 知识库构建中的步骤进行比较。
分块不是 RAG 项目中可有可无的脚注。它决定了模型能看到什么证据,因此应当把它当作一个可以度量的设计选择,用真实问题去检验,并让失败案例指引下一步的改动。
如果你告诉我们你的应用场景,我们会回复一份书面的落地路线方案:https://api.duaer.com/form/c59a907a-3697-4edf-a04d-3ea0fb72fdc8
常见问题
RAG 系统的文档分块尺寸应该怎么定?
没有放之四海而皆准的数值。建议先用几百个 token 左右、带少量重叠的设置作为起点,再用一批真实问题测试。检查正确段落是否进入前几名检索结果,并根据失败原因调整尺寸、重叠量或切分规则。配置变化时应同步记录版本。
企业文档切分后答案不完整,应该如何排查?
先区分问题出在检索还是生成。对每个问题查看正确段落是否被检索到:如果没有,多半是分块问题,常见原因是切断了条件或把多个主题混在一起;如果检索到了但答案仍遗漏条件,再去检查提示词和模型输出。把失败案例按类别归纳,能更快定位改动方向。
RAG 知识库中的分块需要附带哪些元数据?
建议为每个分块附加文档标题、章节标题、生效日期、负责人和版本号。这些信息可以用于过滤,例如只检索当前有效的制度,也便于答案标注来源,方便用户核对。缺少版本信息是很多 RAG 系统给出过时答案的重要原因。