由内及外:为文档级关系抽取建模提及依赖的实体结构
计算与语言
2021-02-23 v1 人工智能
摘要
实体作为关系抽取任务中的基本要素,呈现出特定的结构。在本工作中,我们将这种结构形式化为提及对之间独特的依赖关系。随后我们提出 SSAN,其在标准自注意力机制内部以及整个编码阶段中均融入了这些结构依赖。具体而言,我们在每个自注意力构建块内设计了两个可选的变换模块以产生注意力偏置,从而自适应地正则化其注意力流。我们的实验证明了所提实体结构的有用性以及 SSAN 的有效性。它显著优于竞争基线,在三个流行的文档级关系抽取数据集上取得了新的最先进结果。我们进一步提供消融与可视化,以展示实体结构如何引导模型实现更好的关系抽取。我们的代码已公开可用。
引用
@article{arxiv.2102.10249,
title = {Entity Structure Within and Throughout: Modeling Mention Dependencies for Document-Level Relation Extraction},
author = {Benfeng Xu and Quan Wang and Yajuan Lyu and Yong Zhu and Zhendong Mao},
journal= {arXiv preprint arXiv:2102.10249},
year = {2021}
}
备注
Accepted to AAAI 2021