通过实体覆盖控制提升抽象式摘要的忠实性
计算与语言
2022-07-07 v1
摘要
利用预训练语言模型的抽象式摘要系统在基准数据集上取得了优越的结果。然而，此类模型已被证明更容易产生与输入上下文不忠实的事实幻觉。在本文中，我们提出一种通过实体覆盖控制（Entity Coverage Control, ECC）来纠正实体级外在幻觉的方法。我们首先计算每个训练样本的实体覆盖精度，并在其前添加相应的控制码，从而在训练阶段隐式引导模型识别忠实内容。我们进一步通过在从 Wikipedia 提取的大规模但含噪数据上进行中间微调来扩展我们的方法，以实现零样本摘要。我们在三个领域和风格差异很大的基准数据集 XSum、Pubmed 和 SAMSum 上的实验结果表明，所提方法在有监督微调和零样本设置下均能生成更忠实且更具 salient 的抽象式摘要。
引用
@article{arxiv.2207.02263,
title = {Improving the Faithfulness of Abstractive Summarization via Entity Coverage Control},
author = {Haopeng Zhang and Semih Yavuz and Wojciech Kryscinski and Kazuma Hashimoto and Yingbo Zhou},
journal= {arXiv preprint arXiv:2207.02263},
year = {2022}
}
备注
NAACL 2022 findings