解构与修正大语言模型的生成内容
计算与语言
2025-11-17 v1
摘要
在大型语言模型（LLM）的问答（QA）中，归因至关重要。基于问题分解的方法使用长形式答案生成问题以检索相关文档。然而，生成的问题常常不相关且不完整，导致检索信息丢失。这些方法也无法聚合来自不同文档和段落的证据片段。为解决这些问题，我们提出一种新的基于事实分解的框架，称为 FIDES（faithful context enhanced fact decomposition and evidence aggregation），用于归因 QA。FIDES 使用上下文增强的双阶段可靠分解方法，将长形式答案分解为子事实，然后由检索器检索相关证据片段。如果检索到的证据片段与相关子事实相冲突，则相应地修正这些子事实。最后，按原始句子聚合证据片段。我们在六个数据集上进行了广泛评估，并提出了新的度量 用于评估证据精度。FIDES 在 GPT-3.5-turbo、Gemini 和 Llama 70B 系列模型上均优于 SOTA 方法超过 14%。
引用
@article{arxiv.2509.00765,
title = {Decomposing and Revising What Language Models Generate},
author = {Zhichao Yan and Jiaoyan Chen and Jiapu Wang and Xiaoli Li and Ru Li and Jeff Z. Pan},
journal= {arXiv preprint arXiv:2509.00765},
year = {2025}
}