中文

在线新闻讨论的神经抽象式无监督摘要

计算与语言 2021-06-22 v2 机器学习

摘要

摘要通常依赖黄金标准摘要来训练抽取式或抽象式模型。社交媒体给摘要技术带来障碍,因为它需要解决多文档多作者的方式。我们通过引入一种生成在线新闻讨论抽象式摘要的新方法来应对这一挑战性任务。我们的方法扩展了基于 BERT 的架构,包含一种在训练阶段将评论点赞数作为输入的注意力编码。为训练模型,我们定义了一项任务,即基于流行度(点赞数)重建高影响力评论。据此,我们的模型学习基于最相关评论来摘要在线讨论。我们的新方法提供的摘要代表了用户评论的新闻条目中最相关的方面,将社交上下文作为信息源以摘要在线社交网络中的文本。我们的模型使用生成摘要与帖子中每条评论之间的 ROUGE 分数进行评估。包括社交注意力编码的我们的模型在此评估下显著优于基于抽取式和抽象式的摘要方法。

关键词

引用

@article{arxiv.2106.03953,
  title  = {Neural Abstractive Unsupervised Summarization of Online News Discussions},
  author = {Ignacio Tampe Palma and Marcelo Mendoza and Evangelos Milios},
  journal= {arXiv preprint arXiv:2106.03953},
  year   = {2021}
}