基于序列到序列模型的神经抽取式文本摘要
计算与语言
2020-09-22 v4 机器学习
机器学习
摘要
过去几年，基于序列到序列（seq2seq）模型的神经抽取式文本摘要广受欢迎。许多有趣的技术被提出以改进seq2seq模型，使其能应对显著性、流畅性与人类可读性等挑战，并生成高质量摘要。一般而言，这些技术大多在以下三类之一中有所区别：网络结构、参数推断与解码/生成。亦有关于训练模型的效率与并行化等其他考量。本文从网络结构、训练策略与摘要生成算法角度，对不同的抽取式文本摘要seq2seq模型提供全面文献综述。若干模型最初为语言建模与生成任务（如机器翻译）提出，后应用于抽取式文本摘要，故我们也简要回顾这些模型。作为综述的一部分，我们还开发了开源库，即神经抽取式文本摘要器（NATS）工具包，用于抽取式文本摘要。我们在广泛使用的CNN/Daily Mail数据集上进行了大量实验，以检验若干不同神经网络组件的有效性。最后，我们在两个近期发布的数据集Newsroom与Bytecup上对所实现的NATS中两个模型进行了基准测试。
引用
@article{arxiv.1812.02303,
title = {Neural Abstractive Text Summarization with Sequence-to-Sequence Models},
author = {Tian Shi and Yaser Keneshloo and Naren Ramakrishnan and Chandan K. Reddy},
journal= {arXiv preprint arXiv:1812.02303},
year = {2020}
}