FRSUM：通过增强事实鲁棒性实现忠实抽象摘要
计算与语言
2022-11-02 v1
摘要
尽管能够生成流畅且符合语法的文本，当前的 Seq2Seq 摘要模型仍受不忠实生成问题困扰。本文从事实鲁棒性这一新视角研究现有系统的忠实性，事实鲁棒性即针对对抗性不忠实信息正确生成事实信息的能力。我们首先通过模型在生成事实信息时抵御对抗攻击的成功率来衡量其事实鲁棒性。对广泛当前系统的事实鲁棒性分析表明，其与人类关于忠实性的判断具有良好一致性。受这些发现启发，我们提出通过增强模型的事实鲁棒性来改进其忠实性。具体而言，我们提出一种新颖的训练策略，即 FRSUM，其教导模型抵御显式对抗样本与隐式事实对抗扰动。大量自动与人工评估结果表明，FRSUM 持续提升了 T5、BART 等多种 Seq2Seq 模型的忠实性。
引用
@article{arxiv.2211.00294,
title = {FRSUM: Towards Faithful Abstractive Summarization via Enhancing Factual Robustness},
author = {Wenhao Wu and Wei Li and Jiachen Liu and Xinyan Xiao and Ziqiang Cao and Sujian Li and Hua Wu},
journal= {arXiv preprint arXiv:2211.00294},
year = {2022}
}
备注
Findings of EMNLP 2022