中文

回答还是弃权：通过弃权感知强化学习减轻搜索代理幻觉

机器学习 2026-07-12 v1 人工智能 计算与语言
作者: Fengji Zhang , Tianyu Fan , Yuxiang Zheng , Xinyao Niu , Chengen Huang , Jacky Keung , Bei Chen
在 arXiv 上查看 ↗ PDF ↗

摘要

最近在为大语言模型（LLM）配备搜索工具和结果奖励强化学习（RL）方面的进展，在开放域QA任务上取得了新的最先进成果。然而，我们认为当前的训练范式存在一个关键漏洞：它们主要奖励正确答案，但在检索失败时未能惩罚捏造的答案，从而隐式地加剧了幻觉。为了解决这个问题，我们提出了弃权感知强化学习（AWA-RL），它利用模型特定于查询的先验能力和持续的在策略训练观察，动态地塑造弃权奖励。我们还引入了一种新的指标RA-F1来衡量能力-可靠性权衡。与不弃权的基线相比，AWA-RL将绝对精度提高了高达10.3%，整体RA-F1提高了2.9%，而原始准确率仅略有牺牲。这些结果证实，AWA-RL成功地产生了高能力和可靠的搜索代理。代码、数据和模型权重可在 https://github.com/zfj1998/AWA-RL 公开获取。

关键词

幻觉缓解 强化学习 搜索代理 弃权 开放域问答 LLM

引用

@article{arxiv.2607.10738,
  title  = {To Answer or to Abstain: Mitigating Search-Agent Hallucinations via Abstention-Aware Reinforcement Learning},
  author = {Fengji Zhang and Tianyu Fan and Yuxiang Zheng and Xinyao Niu and Chengen Huang and Jacky Keung and Bei Chen},
  journal= {arXiv preprint arXiv:2607.10738},
  year   = {2026}
}