以两步流程微调 BERT 用于 DocRED
计算与语言
2019-09-27 v1
摘要
对多个实体间关系建模近来吸引了越来越多的关注，并且已收集了一个名为 DocRED 的新数据集以加速文档级关系抽取的研究。该任务的当前基线使用 BiLSTM 编码整个文档并从头训练。我们认为此类简单基线不足以建模实体间的复杂交互。在本文中，我们进一步应用预训练语言模型（BERT）为该任务提供更强的基线。我们还发现分阶段解决该任务可进一步提升性能。第一步预测两个实体是否具有关系，第二步预测具体关系。
引用
@article{arxiv.1909.11898,
title = {Fine-tune Bert for DocRED with Two-step Process},
author = {Hong Wang and Christfried Focke and Rob Sylvester and Nilesh Mishra and William Wang},
journal= {arXiv preprint arXiv:1909.11898},
year = {2019}
}