关于检索增强生成系统中幻觉的幻觉消除：辩论增强的 RAG
计算与语言
2025-05-27 v1 人工智能
摘要
检索增强生成 (RAG) 通过整合外部知识来提高事实准确性，但会引入一个关键问题：错误或偏见的检索可能误导生成，从而加剧幻觉现象，我们将其称为“幻觉上的幻觉”。为此，我们提出一种称为 Debate-Augmented RAG (DRAG) 的训练无关框架，将多智能体辩论 (MAD) 机制集成到检索和生成两个阶段。在检索阶段，DRAG 采用支持者、反对者和裁判之间的结构化辩论，以细化检索质量并确保事实可靠性。在生成阶段，DRAG 引入非对称信息角色和对抗性辩论，以增强推理鲁棒性并缓解事实不一致性。跨多个任务的评估表明，DRAG 在提高检索可靠性、减少 RAG 引起的幻觉方面显著有效，并显著提升整体事实准确性。我们的代码已公开于 https://github.com/Huenao/Debate-Augmented-RAG。
引用
@article{arxiv.2505.18581,
title = {Removal of Hallucination on Hallucination: Debate-Augmented RAG},
author = {Wentao Hu and Wengyu Zhang and Yiyang Jiang and Chen Jason Zhang and Xiaoyong Wei and Qing Li},
journal= {arXiv preprint arXiv:2505.18581},
year = {2025}
}
备注
Accepted by ACL 2025