通过检索头诱导的优化提升大语言模型的上下文忠实性
计算与语言
2025-01-24 v1
摘要
确保检索增强型大语言模型（LLM）在长篇问答（LFQA）场景中的上下文忠实性对于构建可信赖的信息寻求系统至关重要。在本工作中，我们识别到 LFQA 忠实性与检索头之间的一个显著相关性，这些检索头是一组负责检索上下文信息的注意力头。基于这一洞察，我们提出 RHIO 框架，旨在教导 LLM 显式区分忠实与不忠实的生成。RHIO 首先通过选择性屏蔽检索头来增强那些模拟真实模型内在错误的不忠实样本。然后，将这些样本纳入联合训练，使模型能够在控制标记的条件下区分不忠实的输出与忠实的输出。此外，这些控制标记被用于自我诱导对抗输出，通过对抗解码放大它们之间的差异。为促进上下文忠实性的评估，我们还引入了 GroundBench，这是一个综合基准，汇集自五个现有的 LFQA 数据集。广泛的在 GroundBench 上的实验结果表明，RHIO 显著提升了忠实性，甚至超过了 GPT-4o。
引用
@article{arxiv.2501.13573,
title = {Improving Contextual Faithfulness of Large Language Models via Retrieval Heads-Induced Optimization},
author = {Lei Huang and Xiaocheng Feng and Weitao Ma and Yuchun Fan and Xiachong Feng and Yangfan Ye and Weihong Zhong and Yuxuan Gu and Baoxin Wang and Dayong Wu and Guoping Hu and Bing Qin},
journal= {arXiv preprint arXiv:2501.13573},
year = {2025}
}
备注
Submitted to ARR October 2024