基于微调的抽象摘要模型在实体层面的事实适应性

抽象摘要模型经常生成事实不一致的内容，特别是当模型的参数知识与输入文档中的知识冲突时。在本文中，我们分析了基于微调的摘要模型对知识冲突的鲁棒性，我们称之为事实适应性。我们利用预训练语言模型构建评估集，发现事实适应性与原始数据集上的事实一致性没有强相关。此外，我们引入了一种可控反事实数据增强方法，其中增强数据中的知识冲突程度可以调节。我们在两个预训练语言模型（PEGASUS和BART）和两个微调数据集（XSum和CNN/DailyMail）上的实验结果表明，我们的方法增强了事实适应性，同时在原始数据集上实现了与对比学习基线相当的事实一致性。