超越语义相关性：面向鲁棒检索增强生成的反事实风险最小化
计算与语言
2026-05-05 v1 信息检索
摘要
标准的检索增强生成（RAG）系统主要依赖语义相关性作为效用工具的代理。然而，在现实决策场景中，用户查询常常携带认知偏见，如错误前提或确认偏见。在这种情况下，最大化相关性会反过来促进检索sycophantic evidence，以强化幻觉，这是一种严重的失败，我们称之为“相关-鲁棒性差距”。为弥合这一差距，我们提出了 CoRM-RAG（反事实风险最小化 for RAG），一个将检索与决策安全性相匹配的框架。基于因果干预，我们引入了认知扰动协议（Cognitive Perturbation Protocol）以模拟用户偏见进行训练，这随后被提炼为轻量级证据评论员（Evidence Critic）。该评分模块学习识别具备足够证据强度的文档，能够在对抗查询扰动下引导模型走向正确，即使面对认知偏见也能实现。广泛的决策-making 基准实验表明，CoRM-RAG 在对抗性设置下显著优于强大的密集检索器和基于 LLM 的重排序器，同时通过可靠的鲁棒性评分实现了有效的风险感知式拒绝。我们的代码已提供，地址为 https://github.com/PeiYangLiu/CoRM-RAG.git。
引用
@article{arxiv.2605.01302,
title = {Beyond Semantic Relevance: Counterfactual Risk Minimization for Robust Retrieval-Augmented Generation},
author = {Peiyang Liu and Qiang Yan and Ziqiang Cui and Di Liang and Xi Wang and Wei Ye},
journal= {arXiv preprint arXiv:2605.01302},
year = {2026}
}