复制-粘贴技术缓解大语言模型幻觉问题
计算与语言
2026-02-10 v2 人工智能
摘要
虽然检索增强生成 (RAG) 使大语言模型 (LLM) 能够生成具有情境 grounding 的响应，但在上下文忠实度方面仍面临挑战，因为大语言模型可能不会始终信任提供的上下文，从而导致幻觉现象，削弱可靠性。我们观察到响应复制程度与上下文不忠实幻觉之间呈反相关关系，这表明更高的复制程度通过培育真实的情境信念来减少幻觉。我们提出了 CopyPasteLLM，通过两阶段高复制程度响应偏好训练获得。我们设计了三种提示方法来增强复制程度，证明高复制程度的响应在上下文忠实度和幻觉控制方面表现优异。这些方法实现了将生成响应自动转化为高复制程度偏好数据的完整管道，用于训练 CopyPasteLLM。在 FaithEval、ConFiQA 和 PubMedQA 上，CopyPasteLLM 在反事实和原始情境中均取得最佳性能，在 FaithEval 上相较于最佳基线提高了 12.2%至 24.5% 的准确率，而仅需 365 个训练样本——仅为基线数据的 1/50。为阐明 CopyPasteLLM 的有效性，我们提出了 Context-Parameter Copying Capturing 算法。有趣的是，这揭示了 CopyPasteLLM 在生成过程中重新校准了对内部参数知识而非外部知识的依赖。所有代码均 available at https://github.com/longyongchao/CopyPasteLLM
引用
@article{arxiv.2510.00508,
title = {Copy-Paste to Mitigate Large Language Model Hallucinations},
author = {Yongchao Long and Xian Wu and Yingying Zhang and Xianbin Wen and Yuxi Zhou and Shenda Hong},
journal= {arXiv preprint arXiv:2510.00508},
year = {2026}
}
备注
Accepted to ICLR 2026