知识库切段怎么定
知识库切段先按文件有没有固定结构来选边界,写明页首页尾和浮水印要不要拿掉、表格是否和标题留在同一段、固定长度连同重叠是多少。切完之后检索有没有取回该段,是另一篇的验法;这里定的是进索引之前每一段的边界。
目录
切段和搭建、版本、验检索分开
搭建知识库时定的是哪一批文件可以当准则、谁可以读、现行路径在哪。版本定的是哪一份档案标成现行。验检索定的是已知出处的题目有没有取回那一段。切段定的是进索引之前,一份现行档案按什么边界切开。四件事不要并成「放进去再看」。分别见 企业知识库怎么搭建、知识库文件版本怎么管、知识库检索效果怎么验。
被切开的是存放处上标成现行的那一份。停用版本不拿来重切后再送进索引。交付范围见 企业知识库与内部助理。
先看这类文件的结构有多固定
2026年10月22日阅读的 Microsoft Learn:RAG 切段阶段 写明,切段是把文件分成大小合适、各自含有语义相关内容的块;做法要按文件类型和结构来选,该页没有给一套固定规则。它把结构从高到低分成有固定版面、半结构、可推断结构、几乎没有结构,并说结构程度是选择做法的起点。该页没有刊登日期。
有固定版面的文件,同一栏位每次都在同一位置,例子是表格式的税务表单或保险卡;该页写明这类复杂版面不适合只用基本文字切割,常见做法是用模型抽出数据并标上语义。半结构的文件没有完全固定的版面,但栏位大致一致,例子是发票:版面不同,仍预期有发票编号和账单抬头;网页则常有标题和段落这类标记。可推断结构的文件没有标记语言,但人读得出编号和条列,例子是法规或制造规格,该页写明这时要自己写程序按结构切开,是否另做模型视同类文件的数量而定。几乎没有结构的笔记,该页写明较合适的是按句子切,或按固定长度并保留重叠。知识库为每一类文件在切段记录上圈其中一档,不把四类合成一个长度。
页首、页尾和浮水印先标成不进入切段
同一页写明,载入和切段可以分开。载入阶段可以先标出或移除分析时要忽略的部分,例子是浮水印、页首和页尾,也可以重排表格,或按标题、副标题和其他结构元素界定文件结构。该页写明,敏感数据不能送到外部系统时,在本地处理。忽略清单写在该类文件的切段记录上:页首、页尾、浮水印、版权行,哪些删掉、哪些只标注仍保留。
没有这张忽略清单,页码和免责声明会变成独立的一段,检索可能取回页码而取不回条款。忽略清单由该份文件的负责人签,日期和现行版本的日期写在一起。负责人没签之前,这类文件不进索引。
表格和它的标题留在同一段
切段页把「重排表格,使它较容易处理」列为载入阶段可以做的事。2026年10月22日阅读的 Microsoft Learn:RAG 准备阶段 在表格问题里写明,长表可能需要在切段时重复标题。该页没有刊登日期。知识库的规则是:一张表和它的栏位标题在同一段;表长到必须切开时,每一段都重复栏位标题,并写上表的名称。
切段页另写明,块太小、不足以回答查询时结果会差,跨在多块上的相关上下文可能取不齐。标题和第一列被分到两段,就属于这种切开。图片若要留下,该页写明可在载入时换成文字描述,并把周围有用的文字一起交给描述;描述若再被切开,每一段仍要带得出原来的图。没有描述、也没有标题的图,不单独成为一段。
固定长度要连同重叠一起写下
切段页把固定长度并保留重叠,写成按固定的字符数或 token 数切开,段与段之间可以重叠若干字符。它写明这种做法和按句子切有不少相同的利弊,好处是一段可以含有跨过数句的语义。长度和重叠都必须选定。不同文件类型结果不同,该页建议先用可视化方式看实际切在哪里。它并写明,固定长度宜用 BERT token,而不是字符数,因为 BERT token 对应语言里有意义的单位,比字符数保留更多语义。该页没有给出一个通用的 token 数。
切段记录为这类文件写两个数:每段多少 token、相邻两段重叠多少,并附一页样本,标出切点落在句号、表格还是标题中间。切点落在标题中间,就改长度或改回按结构切,不把这个长度套到另一类文件。该页把固定长度的适用情况写成结构很少的散文,或文件类型多到无法逐类另做策略。制度、合同这类已经有标题的文件,不因为这个适用情况就改用同一个长度。
按句子切是其他做法都不合适时的退路
切段页把按句子切写成:段由完整句子组成;若该页所述的其他做法都不合适,用它作退路。它写明这种做法实现和处理的成本相对较低,也能用在含有散文或完整句子的文字上。同一页开头写明,页内对工程量和处理成本的标注是主观的,只供该页相互比较。这里不把「较低」读成报价,也不比较工具品牌。
该页写明的缺点是:一段不一定装得下一个意思的全部上下文,语义常常要连看数句。所以按句子切的记录要写相邻句子是否允许并成一段、并到什么标题为止。只按句号机械切开、不看标题,条款的条件和结论会落在两段。该页没有指定必须使用哪一个断句工具。记录只写这次用的规则,不写工具排行。
切段方式定了再改,会牵动后面的索引
切段页写明,切段方式是整体设计里一个半永久的选择;改策略可能明显影响下游,并要沿工作流程一并修改。在正式采用前,应把做法和文件类型对过。知识库因此把「这类文件用哪一种边界」写成版本,和现行文件的版本互相指到。改边界的那一天,旧段从索引移除,按新边界重切现行档再写入。
验检索那一篇用来检查新边界有没有把已知段落切开。题目、出处和命中记录不在这里重写。见 知识库检索效果怎么验。边界还没写进切段记录,不用题目集的命中率来代替这次决定。
每一类都写下边界,才进索引
一类文件没有结构分类、没有忽略清单、没有表格规则,也没有「按结构」或「固定长度加重叠」的选择,这类文件不进索引。选择固定长度却没写重叠,同样不进。样本页上看不见切点,等于边界还没定。
token 数、工具价格和模型名称的排序留在公司自己的记录和当次报价,并注明日期。切段页没有指定一个通用长度,也没有宣布哪一种做法适用于所有文件。索引打开之前,用三件事看:这类文件的结构有没有标明、页首页尾和表格的规则有没有签名、长度和重叠或者结构边界有没有写成版本。三件事都在切段记录上,才把现行档按这个边界写进索引。
