通过数据蒸馏与条件生成完形填空改进生成式摘要的事实错误纠正
计算与语言
2024-02-14 v1
摘要
提升生成式摘要中的事实一致性一直是当前研究的重点。后编辑方法是一种有前景的途径。然而,以往的工作未能充分利用摘要中的事实要素,并受到训练数据集负面效应的影响。在本文中,我们首先提出了一种基于条件生成完形填空任务的新颖事实错误纠正模型 FactCloze。FactCloze 能够构建事实要素之间的因果关系,同时能够判断填空是否可被回答。然后,我们提出了一种数据蒸馏方法,通过多维度评估生成更忠实的摘要数据集 SummDSC。我们通过实验验证了该方法的有效性,与基线相比,在多个事实一致性指标上均取得了提升。
引用
@article{arxiv.2402.08581,
title = {Improving Factual Error Correction for Abstractive Summarization via Data Distillation and Conditional-generation Cloze},
author = {Yiyang Li and Lei Li and Dingxin Hu and Xueyi Hao and Marina Litvak and Natalia Vanetik and Yanquan Zhou},
journal= {arXiv preprint arXiv:2402.08581},
year = {2024}
}
备注
manuscript