基于自适应焦点损失与知识蒸馏的文档级关系抽取
计算与语言
2022-03-22 v1
摘要
文档级关系抽取（DocRE）相比句子级对应任务更具挑战性。其旨在一次性从多个句子抽取关系。本文提出一个含三个新颖组件的 DocRE 半监督框架。首先，我们使用轴向注意力模块学习实体对间的相互依赖，提升了对两跳关系的性能。其次，我们提出自适应焦点损失以解决 DocRE 的类别不平衡问题。最后，我们使用知识蒸馏克服人工标注数据与远程监督数据间的差异。我们在两个 DocRE 数据集上实验。我们的模型持续优于强基线，在 DocRED 排行榜上以 1.36 F1 和 1.46 Ign_F1 分数超越先前 SOTA。我们的代码与数据将发布于 https://github.com/tonytan48/KD-DocRE。
引用
@article{arxiv.2203.10900,
title = {Document-Level Relation Extraction with Adaptive Focal Loss and Knowledge Distillation},
author = {Qingyu Tan and Ruidan He and Lidong Bing and Hwee Tou Ng},
journal= {arXiv preprint arXiv:2203.10900},
year = {2022}
}
备注
To appear in the Findings of ACL 2022