Duaer

指南

RAG 分块方法 2027:为什么文档切分决定回答质量

本文整理自 Duaer 文档站,围绕 RAG 系统的分块方法展开,说明文档切分如何影响检索结果与回答质量,并给出选型思路和评估方法。

许多团队的 RAG 落地路径

很多做企业 RAG 系统的团队都走过相似的路径。文档加载完成,向量生成完成,向量库上线,演示时前十个问题都答得不错。但真实用户一来,问题就出现了:答案接近却不完整,政策条款被引用了却漏掉了例外情况,表格里的数值脱离了列标题。团队的第一反应通常是怪模型,或者换一个更贵的模型。但在很多情况下,真正的原因更靠前,出在分块环节:系统在检索发生之前,就已经决定了如何把长文档切成小块。

分块方法究竟决定了什么

分块方法是把源文档转换为检索器可以搜索、模型可以阅读的单元的规则。每一条 RAG 答案都是由这些单元拼装而成的。如果某个单元包含半句话、一张缺少表头的表格,或者与前提条件分离的条款,检索器就无法恢复丢失的信息。模型随后会基于不完整的证据写出流畅的答案,这是最危险的一类失败,因为它看起来是正确的。

因此,分块不是设置一次就可以忘掉的预处理细节。它决定了检索的粒度、每个命中结果携带的上下文量,以及每次查询所付出的提示词长度成本。把分块当作默认参数的团队,通常要等到用户抱怨之后才会发现后果。

固定长度切分为何会悄悄失效

最常见的起点是固定长度切分:按照设定的字符数或 token 数把每份文档切成块,并保留一定的重叠。这种方法容易实现,也容易解释,所以在早期原型中占据主导。它的弱点在于忽略了作者已经赋予文档的结构。标题会与段落脱离,编号列表被从中间切开,同一个操作流程可能被拆散到三个分块中,每个分块单独看都显得合理。

这种失败在抽查时很难发现,因为逐个阅读时分块看起来都很正常。只有当你提出的问题答案跨越了某个边界时,问题才会暴露。这也是企业知识库中回答质量问题常被误诊的原因。研究过如何搭建企业 RAG 知识库的团队通常会发现,检索设计和数据准备导致的错误回答,往往比生成模型导致的还要多。

需要避免的常见误区

有三个误区反复出现。第一是凭直觉选择分块大小,从不测试其他方案。一个适用于简短 FAQ 条目的大小,会严重割裂合同或工程手册。第二是认为重叠越多越好。重叠可以减少边界处的信息损失,但也会造成内容重复,从而膨胀索引、挤占其他相关命中结果,并在不保证覆盖率提升的情况下增加 token 成本。第三是丢弃元数据。一个缺少来源文档、章节标题、生效日期和产品线信息的分块,无法被正确过滤或引用,并且很容易以十足的把握检索到过时版本的政策。

第四个较隐蔽的误区是忽视非文本内容。表格、表单和图示常常被压平成文本,从而丢失标签与数值之间的对应关系。如果这些元素没有被当作特殊情况处理,文档中最精确的信息反而会最难被检索到。

让方法与文档相匹配

不存在唯一最优的分块方法。正确的选择取决于源文档的写作方式。结构感知切分把标题、章节和列表边界作为切割点,适合手册、政策和标准操作程序等作者已经组织好内容的文档。语义切分则根据话题转换来对句子进行分组,适合报告或会议纪要等较长的叙述性文本,不过它会在建索引时增加计算成本,还需要抽查以确认话题边界是否合理。

层级式或父子式方法往往是企业场景中最实用的选择。小分块用于建立索引,以便精确匹配;每个小分块又链接回更大的父级章节,并将其传给模型以提供上下文。这种模式把“能多精确地找到某内容”与“模型需要多少周边文本”两个问题分开处理。对于合同和监管文件而言,条款若脱离其定义就失去意义,这种模式通常比单纯调整分块大小更能减少误读。

在实践中,大多数团队最终会形成一小套规则:每一类主要文档族对应一种方法,元数据在分块层面附加,并对表格进行专门处理。在建索引之前把这些规则写下来,远比事后通过用户投诉去发现它们要便宜得多。

如何衡量分块质量

分块应当通过检索结果来评判,而不是看分块本身的样子。先准备一个包含几十个真实问题的问题集,这些问题来自将来会使用系统的人,每个问题都对应一段应当回答它的源文段落。然后针对每种分块方案,衡量正确段落是否出现在每个问题的前几位结果中。跟踪前几个位置的召回率,并另外检查模型的回答是引用了完整证据,还是只引用了片段。

也应直接审查切割点。随机抽取一组分块,并询问读者在不打开原文的情况下能否理解每一块。统计有多少分块切断了某个流程、把条件与结果分开,或者使表头脱离了表格。这些计数比较粗糙,但能暴露汇总分数所掩盖的问题。在各轮实验中保持问题集稳定,这样分块大小、重叠或结构方面的变化才能被公平比较。

如果团队希望在不分别编写摄入、切分和检索测试脚本的情况下运行这一循环,可以使用 Duaer 平台,它把从文档到检索的流程整合进同一个工作流中。这样每次修改后重新运行同一问题集会更容易,不过结果仍然取决于你的文档和你的问题。

本周可以做的一件事

挑出十个用户真正会问的问题,并为每个问题找到对应的源段落。用你当前的分块设置运行这些问题,记录哪些答案依赖于被切分到不同分块中的文本。然后只改变一个变量,例如把访问量最大的那一类文档从固定长度切分改为基于标题的切分,再用同样的问题重新运行。一次受控的对比,往往比一周关于分块大小的争论更有说服力。

如果你准备在自己的文档上验证这一点,可以在 https://www.duaer.com 注册试用,并用两种分块方法重建一个文档族,然后对照你的问题集比较结果,再决定推广哪一种方案。

如果你希望获得关于从何处开始的建议,请告诉我们你的场景,我们会为你发回一份书面的落地路线。

https://api.duaer.com/form/c59a907a-3697-4edf-a04d-3ea0fb72fdc8

分块不是一个调一次就结束的设置。它决定了模型被允许看到哪些证据,因此它值得与系统中的其他环节一样,接受同样严谨的测量与验证。

常见问题

RAG 系统的分块大小应该怎么确定?

不要凭直觉定一个数字就结束。应先用真实问题集,对几种不同的分块大小和切分方式分别测试,观察正确段落是否进入前几位检索结果,并抽查分块是否切断了流程、条件或表格表头。最终选择以检索效果和回答完整性为准。

分块之间的重叠是不是越大越好?

不是。重叠能减少边界处的信息丢失,但过多的重叠会造成内容重复,膨胀索引规模,挤占其他相关结果,并增加 token 成本,却不一定提升覆盖率。通常需要结合实际问题集进行对比,找到合适的数值。

如何评估企业文档的分块方法是否有效?

可以准备几十个来自真实用户的问题,并标注每个问题对应的源段落。对比不同分块方案下正确段落的召回情况,同时检查模型回答是否引用了完整证据。每次修改只改变一个变量,并保持问题集稳定,以便结果可以公平比较。