基于拒绝学习的抽象文本摘要
计算与语言
2023-02-20 v1
摘要
最先进的抽象摘要系统经常产生源文档不支持的幻觉内容，主要由于训练数据集中的噪声。现有方法选择从训练集中完全丢弃含噪样本或词元，减少了有效训练集规模并人为地增加了从源中复制词的倾向。在本工作中，我们提出一种基于拒绝学习的抽象摘要训练目标，其中模型学习是否拒绝潜在有噪词元。我们进一步提出一种正则化解码目标，在推理时利用训练中学到的拒绝概率惩罚非事实候选摘要。我们表明，与五个基线模型相比，我们的方法在自动和人工评估中显著提升了生成摘要的事实性，且同时增加了生成摘要的抽象性。
引用
@article{arxiv.2302.08531,
title = {Learning with Rejection for Abstractive Text Summarization},
author = {Meng Cao and Yue Dong and Jingyi He and Jackie Chi Kit Cheung},
journal= {arXiv preprint arXiv:2302.08531},
year = {2023}
}