FVA-RAG：用于缓解谄媚性幻觉的证伪-验证对齐
计算与语言
2025-12-29 v2 人工智能
信息检索
摘要
检索增强生成（RAG）通过将答案锚定在检索到的证据上来减少幻觉，但标准检索器通常表现出检索谄媚性：它们优先呈现支持用户前提的证据，即使该前提是错误的。我们提出了FVA-RAG（证伪-验证对齐RAG），一种通过将初始响应视为草稿假设并显式检索反上下文来压力测试它的流水线，从而反转标准RAG工作流。我们在完整的TruthfulQA-Generation基准（N=817）上，在完全冻结协议下进行评估，零次实时网络调用且各方法检索预算相同。使用gpt-4o进行生成和确定性判断，FVA-RAG在两个独立构建的冻结语料库上实现了79.80-80.05%的准确率，根据McNemar检验，显著优于提示变体的Self-RAG（71.11-72.22%）和CRAG（71.36-73.93%），p < 10^-6。FVA-RAG在24.5-29.3%的查询上触发证伪，证明定向反证据检索对于缓解前提确认幻觉是决定性的。
引用
@article{arxiv.2512.07015,
title = {FVA-RAG: Falsification-Verification Alignment for Mitigating Sycophantic Hallucinations},
author = {Mayank Ravishankara},
journal= {arXiv preprint arXiv:2512.07015},
year = {2025}
}