中文

多层级检索增强生成的知识金字塔构建

人工智能 2025-02-24 v3 计算与语言

摘要

本文针对现有知识增强问答框架——特别是主要关注提升召回率的检索增强生成(Retrieval-Augmented Generation, RAG)方法——在精确性方面的改进需求,提出了一种在RAG框架内的多层知识金字塔方法,以实现精确性与召回率之间的更好平衡。该知识金字塔由三个层次组成:本体(Ontologies)、知识图谱(Knowledge Graphs, KGs)和基于块状的原始文本。我们采用跨层增强技术以实现全面的知识覆盖以及本体模式与实例的动态更新。为确保紧凑性,我们利用跨层过滤方法对知识图谱中的知识进行浓缩。我们提出的方法名为PolyRAG,采用瀑布模型进行检索,从金字塔顶部开始逐层向下,直至获得置信度较高的答案。我们为领域特定的知识检索引入了两个基准数据集,分别来自学术领域和金融领域。通过全面的实验验证,该方法在19种最先进(SOTA)方法上表现更优。一个令人鼓舞的观察是,所提出的方法增强了GPT-4的性能,通过将F1分数从0.1636提升至0.8109,实现了395%的F1增益。

关键词

引用

@article{arxiv.2407.21276,
  title  = {Knowledge Pyramid Construction for Multi-Level Retrieval-Augmented Generation},
  author = {Rubing Chen and Xulu Zhang and Jiaxin Wu and Wenqi Fan and Xiao-Yong Wei and Qing Li},
  journal= {arXiv preprint arXiv:2407.21276},
  year   = {2025}
}