用于文本摘要的序列级对比学习

对比学习模型在无监督视觉表征学习中取得巨大成功，其最大化同一图像不同视图特征表示间的相似性，同时最小化不同图像视图特征表示间的相似性。在文本摘要中，输出摘要是输入文档的简写形式，二者含义相近。本文提出一种用于有监督抽取式文本摘要的对比学习模型，将文档、其黄金摘要及模型生成摘要视为同一均值表示的不同视图，并在训练时最大化它们之间的相似性。我们在三个不同摘要数据集上优于强大的序列到序列文本生成模型（即BART）。人工评估也显示，相比无对比目标的对等模型，我们的模型获得了更好的忠实度评分。