TSSuBERT:基于 BERT 的推文流摘要
信息检索
2021-06-17 v1
摘要
深度神经网络的发展以及 BERT 等预训练语言模型的出现使得许多 NLP 任务性能得到提升。然而,这些模型在推文摘要上并未获得同样的流行,这或许可由缺乏用于训练和评估的现有语料库来解释。我们在本文中的贡献有两点:(1) 我们引入了一个用于 Twitter 事件摘要的大型数据集;(2) 我们提出了一种自动摘要海量推文流的神经模型。该抽取式模型以新颖方式结合预训练语言模型和基于词频的表示来预测推文显著性。该模型的另一个优势是它根据输入推文流自动调整输出摘要的长度。我们使用两个不同的 Twitter 语料库进行了实验,与最先进的基线相比观察到了有前景的结果。
引用
@article{arxiv.2106.08770,
title = {TSSuBERT: Tweet Stream Summarization Using BERT},
author = {Alexis Dusart and Karen Pinel-Sauvagnat and Gilles Hubert},
journal= {arXiv preprint arXiv:2106.08770},
year = {2021}
}
备注
UNDER SUBMISSION