基于 BERT 分层图掩码的事实级抽取式摘要
计算与语言
2020-11-20 v1
摘要
当前多数抽取式摘要模型通过选择显著句子生成摘要。然而，句子级抽取式摘要的问题之一在于人工撰写的黄金摘要与预言句子标签之间存在差距。在本文中，我们提出抽取事实级语义单元以改进抽取式摘要。我们还引入了分层结构，将文本信息的多层次粒度融入模型。此外，我们通过分层图掩码将模型与 BERT 相结合。这使我们能够结合 BERT 在自然语言理解上的能力与结构信息，且不增加模型规模。在 CNN/DailyMail 数据集上的实验表明，我们的模型取得了最先进的结果。
引用
@article{arxiv.2011.09739,
title = {Fact-level Extractive Summarization with Hierarchical Graph Mask on BERT},
author = {Ruifeng Yuan and Zili Wang and Wenjie Li},
journal= {arXiv preprint arXiv:2011.09739},
year = {2020}
}
备注
Accept by Coling2020