LLMs 知道所需内容：基于缺失信息引导框架赋能检索增强生成
计算与语言
2024-04-23 v1
摘要
检索增强生成 (RAG) 通过为 LLMs 提供更新和相关的知识来缓解过时知识或幻觉问题。然而，RAG 在理解复杂多跳查询和检索相关文档方面仍面临诸多困难，这需要 LLMs 执行推理并逐步检索。鼓励人类推理过程逐步搜索所需信息的能力，使 LLMs 能否察觉每一步推理中的缺失信息成为自然的问题。在本工作中，我们首先通过实验验证了 LLMs 提取信息以及了解缺失信息的能力。基于上述发现，我们提出了基于缺失信息引导的检索-提取-解决范式 (MIGRES)，其中我们利用缺失信息识别生成针对性查询，以引导后续知识检索。此外，我们设计了基于句子水平的 re-ranking 过滤方法，从文档中过滤无关内容，并利用 LLMs 的信息提取能力从清理后的文档中提取有用信息，从而增强 RAG 的整体效能。在多个公开数据集上进行的大量实验表明，我们提出的 MIGRES 方法具有优势，实验分析也证明了我们所提出模块的有效性。
引用
@article{arxiv.2404.14043,
title = {LLMs Know What They Need: Leveraging a Missing Information Guided Framework to Empower Retrieval-Augmented Generation},
author = {Keheng Wang and Feiyu Duan and Peiguang Li and Sirui Wang and Xunliang Cai},
journal= {arXiv preprint arXiv:2404.14043},
year = {2024}
}