检索、反思与修正：验证链可增强检索增强生成
计算与语言
2024-10-10 v1 人工智能
摘要
最近的检索增强生成（RAG）旨在通过整合从外部来源检索到的广泛知识来增强大型语言模型（LLM）。然而，这种方法遇到了一些挑战：首先，原始查询可能不适合精确检索，导致错误的上下文知识；其次，由于知识边界限制，语言模型容易生成与外部参考不一致的答案。为了解决这些问题，我们提出了验证链（CoV-RAG）来增强外部检索的正确性和内部生成的一致性。具体来说，我们将验证模块集成到RAG中，参与评分、判断和重写。为了纠正外部检索错误，CoV-RAG使用修正后的查询检索新知识。为了纠正内部生成错误，我们在训练期间使用思维链（CoT）推理统一QA和验证任务。我们在各种LLM上进行的全面实验证明了其与其他强基线相比的有效性和适应性。特别是，我们的CoV-RAG在使用不同LLM骨干网络时，能够显著超越最先进的基线方法。
引用
@article{arxiv.2410.05801,
title = {Retrieving, Rethinking and Revising: The Chain-of-Verification Can Improve Retrieval Augmented Generation},
author = {Bolei He and Nuo Chen and Xinran He and Lingyong Yan and Zhenkai Wei and Jinchang Luo and Zhen-Hua Ling},
journal= {arXiv preprint arXiv:2410.05801},
year = {2024}
}
备注
Accepted to EMNLP 2024 Findings. 9 pages, 4 figures, 7 tables