用于缓解数据到文本生成中幻觉的评论家驱动解码
计算与语言
2023-10-27 v1
摘要
文本脱离输入依据的幻觉是神经数据到文本生成中的一个众所周知的问题。已有许多方法被提出以缓解该问题，但它们通常需要改变模型架构或收集额外数据，因而难以轻易应用于已有模型。本文中，我们探索了一种缓解幻觉的新途径：将生成语言模型（LM）的概率输出与一种特殊的“文本评论家”分类器的输出相结合，该分类器通过评估输入数据与迄今生成文本之间的匹配程度来引导生成。我们的方法不需要对底层 LM 的架构或训练过程做任何改动，因此可与任何基于词概率运作的模型和解码方法结合。该评论家不需要任何额外训练数据，而是使用基础 LM 的训练数据与合成负例。实验结果表明，我们的方法在 WebNLG 和 OpenDialKG 基准上优于基线。
引用
@article{arxiv.2310.16964,
title = {Critic-Driven Decoding for Mitigating Hallucinations in Data-to-text Generation},
author = {Mateusz Lango and Ondřej Dušek},
journal= {arXiv preprint arXiv:2310.16964},
year = {2023}
}
备注
EMNLP 2023