Re-Ex：解释后修订减少大语言模型响应中的事实错误
计算与语言
2025-04-15 v3 人工智能
摘要
减轻幻觉问题是大语言模型 (LLM) 可靠部署于现实场景必须克服的关键挑战。最近，人们提出了各种方法来检测和修订 LLM 生成文本中的事实错误，以减少幻觉。在本文中，我们提出了 Re-Ex，一种用于后期编辑 LLM 生成响应的方法。Re-Ex 引入了一个称为事实错误解释步骤的新颖推理步骤。Re-Ex 通过三个步骤修订 LLM 的初始响应：首先，使用外部工具检索初始 LLM 响应中事实错误的证据；其次，指示 LLM 基于收集到的证据解释响应中有问题的部分；最后，LLM 利用前一步提供的解释修订初始响应。除了解释步骤外，Re-Ex 还结合了新的提示技术，以减少响应修订过程所需的 token 数量和推理时间。与包括 FacTool、CoVE 和 RARR 在内的现有方法相比，Re-Ex 在多个基准测试中以更少的推理时间和更少的 token 提供了更好的检测和修订性能。
引用
@article{arxiv.2402.17097,
title = {Re-Ex: Revising after Explanation Reduces the Factual Errors in LLM Responses},
author = {Juyeon Kim and Jeongeun Lee and Yoonho Chang and Chanyeol Choi and Junseong Kim and Jy-yong Sohn},
journal= {arXiv preprint arXiv:2402.17097},
year = {2025}
}
备注
ICLR 2024 Workshop on Reliable and Responsible Foundation Models