基于自适应阈值与局部上下文池化的文档级关系抽取
计算与语言
2020-12-10 v3
摘要
与句子级关系抽取相比，文档级关系抽取（RE）带来了新的挑战。一篇文档通常包含多个实体对，且一个实体对在文档中出现多次并关联多种可能的关系。本文提出两种新技术——自适应阈值（adaptive thresholding）与局部上下文池化（localized context pooling），以解决多标签与多实体问题。自适应阈值用可学习的依赖于实体的阈值取代先前工作中用于多标签分类的全局阈值。局部上下文池化直接将预训练语言模型的注意力迁移以定位有助于判定关系的相关上下文。我们在三个文档级RE基准数据集上实验：DocRED（近期发布的大规模RE数据集）以及生物医学领域的两个数据集 CDR 和 GDA。我们的 ATLOP（Adaptive Thresholding and Localized cOntext Pooling）模型取得了 63.4 的 F1 分数，并且在 CDR 和 GDA 上均显著优于现有模型。
引用
@article{arxiv.2010.11304,
title = {Document-Level Relation Extraction with Adaptive Thresholding and Localized Context Pooling},
author = {Wenxuan Zhou and Kevin Huang and Tengyu Ma and Jing Huang},
journal= {arXiv preprint arXiv:2010.11304},
year = {2020}
}
备注
Accepted by AAAI 2021. Code available at https://github.com/wzhouad/ATLOP