通过后期编辑与语言模型填充修正抽象摘要中的多样事实错误
计算与语言
2022-11-01 v2
摘要
抽象摘要模型常生成包含事实错误或幻觉内容的不一致摘要。近期工作聚焦于通过后期编辑修正生成摘要中的事实错误。此类修正模型使用通过启发式规则注入错误构建的对抗性非事实摘要进行训练。然而，使用启发式方法生成非事实摘要通常不能很好地泛化到实际模型错误。在这项工作中，我们提出通过填充语言模型生成困难且具有代表性的非事实摘要合成示例。利用该数据，我们训练了一个更鲁棒的事实修正模型，以后期编辑摘要从而提升事实一致性。通过在两个流行摘要数据集——CNN/DM 和 XSum——上的定量与定性实验，我们表明我们的方法在修正错误摘要方面大幅优于先前方法。我们的模型 FactEdit 在多个摘要模型上平均将事实性分数在 CNN/DM 上提升超过约 11 分，在 XSum 上提升超过约 31 分，在保持有竞争力的摘要质量的同时生成更具事实性的摘要。
引用
@article{arxiv.2210.12378,
title = {Correcting Diverse Factual Errors in Abstractive Summarization via Post-Editing and Language Model Infilling},
author = {Vidhisha Balachandran and Hannaneh Hajishirzi and William W. Cohen and Yulia Tsvetkov},
journal= {arXiv preprint arXiv:2210.12378},
year = {2022}
}
备注
EMNLP 2022