Point-less：利用指针生成网络实现更抽象的摘要
计算与语言
2019-05-07 v1
摘要
指针生成架构已被证明是抽象式摘要 seq2seq 模型的重大改进。然而，该模型生成的摘要很大程度上是抽取式的，因为超过 30% 的生成句子是从源文本复制的。本工作提出了一种多头注意力机制、指针丢弃以及两个新的损失函数，以在保持相似 ROUGE 分数的同时促进更抽象的摘要。多头注意力和丢弃均未改善 N-gram 新颖性，但丢弃充当了正则化器，提升了 ROUGE 分数。新损失函数实现了显著更高的新颖 N-gram 和句子，代价是 ROUGE 分数略低。
引用
@article{arxiv.1905.01975,
title = {Point-less: More Abstractive Summarization with Pointer-Generator Networks},
author = {Freek Boutkan and Jorn Ranzijn and David Rau and Eelco van der Wel},
journal= {arXiv preprint arXiv:1905.01975},
year = {2019}
}
备注
7 pages