生成器是否关注其上下文？上下文迁移下生成模型忠实度分析

本研究引入了知识增强型生成器，其专门设计用于生成始终扎根于上下文知识的信息，无论上下文如何变化。先前的研究主要集中在检查源自静态输入的幻觉，例如在摘要或机器翻译领域。然而，我们的调查深入探讨了动态知识存在下的生成式问答的忠实度。我们的目标是探索当上下文知识发生变化时，由参数记忆引起的幻觉是否存在，同时分析其发生的根本原因。为了有效地解决这一问题，我们提出了一种简单而有效的检测此类幻觉的度量方法。有趣的是，我们的调查发现所有模型都倾向于将先前的答案作为幻觉生成。为了更深入地了解这种现象的根本原因，我们进行了一系列实验，从多个角度验证了上下文在训练和测试期间对幻觉的关键作用。