释放神经语篇解析器的力量——一种基于大规模预训练的上下文与结构感知方法
计算与语言
2020-11-09 v1
摘要
基于 RST 的语篇解析是一项重要的 NLP 任务，具有众多下游应用，如摘要生成、机器翻译和观点挖掘。在本文中，我们展示了一种简单但高度准确的语篇解析器，其融合了最近的上下文语言模型。我们的解析器在 RST-DT 和 Instr-DT 两个关键 RST 数据集上建立了预测结构与核性的新 state-of-the-art (SOTA) 性能。我们进一步证明，在最近可用的大规模“银标准”语篇树库 MEGA-DT 上对我们的解析器进行预训练可带来更大的性能提升，这暗示了语篇分析领域中一个新颖且有前景的研究方向。
引用
@article{arxiv.2011.03203,
title = {Unleashing the Power of Neural Discourse Parsers -- A Context and Structure Aware Approach Using Large Scale Pretraining},
author = {Grigorii Guz and Patrick Huber and Giuseppe Carenini},
journal= {arXiv preprint arXiv:2011.03203},
year = {2020}
}
备注
10 pages, 1 figure, COLING 2020