一种用于抽象文本摘要的增强主题感知卷积序列到序列模型
计算与语言
2020-07-28 v3 机器学习
机器学习
摘要
在本文中，我们提出一种深度学习方法以应对自动摘要任务，该方法将主题信息融入卷积序列到序列（ConvS2S）模型，并使用自批判序列训练（SCST）进行优化。通过联合关注主题与词级对齐，我们的方法可通过偏置概率生成机制改善生成摘要的连贯性、多样性和信息量。另一方面，诸如 SCST 之类的强化训练直接针对不可微度量 ROUGE 优化所提模型，这也避免了推理过程中的暴露偏差。我们在 Gigaword、DUC-2004 和 LCSTS 数据集上利用最先进的方法进行了实验评估。实证结果证明了我们所提方法在抽象摘要中的优越性。
引用
@article{arxiv.1805.03616,
title = {A Reinforced Topic-Aware Convolutional Sequence-to-Sequence Model for Abstractive Text Summarization},
author = {Li Wang and Junlin Yao and Yunzhe Tao and Li Zhong and Wei Liu and Qiang Du},
journal= {arXiv preprint arXiv:1805.03616},
year = {2020}
}
备注
International Joint Conference on Artificial Intelligence and European Conference on Artificial Intelligence (IJCAI-ECAI), 2018