DeepChannel:基于对比学习显著性估计的抽取式文档摘要模型
计算与语言
2018-11-08 v2
摘要
我们提出了 DeepChannel,一种用于抽取式文档摘要的鲁棒、数据高效且可解释的神经网络模型。对于任意文档-摘要对,我们估计一个显著性分数,该分数使用基于注意力的深度神经网络建模,以表示摘要对生成该文档的显著程度。我们设计了一种对比训练策略来学习显著性估计网络,然后将学习到的显著性分数作为引导,从文档中迭代抽取最显著的句子作为我们生成的摘要。在实验中,我们的模型不仅在 CNN/Daily Mail 数据集上取得了最先进的 ROUGE 分数,而且在 DUC2007 测试集的域外测试中表现出很强的鲁棒性。此外,我们的模型在仅使用 训练集的情况下,在 CNN/Daily Mail 测试集上达到了 39.41 的 ROUGE-1 F-1 分数,展示了巨大的数据效率。
引用
@article{arxiv.1811.02394,
title = {DeepChannel: Salience Estimation by Contrastive Learning for Extractive Document Summarization},
author = {Jiaxin Shi and Chen Liang and Lei Hou and Juanzi Li and Zhiyuan Liu and Hanwang Zhang},
journal= {arXiv preprint arXiv:1811.02394},
year = {2018}
}
备注
AAAI-19