KohakuRAG：面向高精度引用场景的层次化文档索引检索增强生成框架
计算与语言
2026-03-10 v1
摘要
需要从文档集合中回答问题的检索增强生成（RAG）系统，在追求高精度引用时面临叠加式难题：平面分块策略牺牲文档结构，单查询形式因词汇不匹配漏检相关段落，单次推理产生内容和引用选择均不稳定的随机答案。我们提出 KohakuRAG，一种层次化 RAG 框架，通过四级树形表示（文档→章节→段落→句子）保留文档结构并实现自下而上嵌入聚合，通过基于大语言模型的查询规划器配合跨查询重排序提升检索覆盖度，通过集合推理实现答案稳定化。我们在 WattBot 2025 挑战赛上进行评估，该基准要求系统从 32 份文档中回答技术问题，数值容差为 ±0.1% 且要求精确来源归属。KohakuRAG 在公开和私有排行榜中均取得第一名（最终得分 0.861），是唯一在两个评估子集中始终保持领先位置的团队。消融实验表明，提示词排序（相对提升 80%）、重试机制（提升 69%）以及带空白过滤的集合投票（提升 1.2 百分点）均贡献显著，而层次化稠密检索仅与混合稀疏-稠密方法相当（BM25 仅增加 3.1 百分点）。我们将 KohakuRAG 作为开源软件发布于 https://github.com/KohakuBlueleaf/KohakuRAG。
引用
@article{arxiv.2603.07612,
title = {KohakuRAG: A simple RAG framework with hierarchical document indexing},
author = {Shih-Ying Yeh and Yueh-Feng Ku and Ko-Wei Huang and Buu-Khang Tu},
journal= {arXiv preprint arXiv:2603.07612},
year = {2026}
}
备注
38pages