用于实体与关系抽取的打包悬浮标记
计算与语言
2022-04-22 v5
摘要
近期实体与关系抽取工作聚焦于研究如何从预训练编码器中获得更好的跨度表示。然而,现有工作的一个主要局限是忽略了跨度(对)之间的相互关联。在本工作中,我们提出一种新颖的跨度表示方法,称为打包悬浮标记(PL-Marker),通过策略性地在编码器中打包标记来考虑跨度(对)之间的相互关联。特别地,我们提出一种面向邻域的打包策略,其整体考虑邻近跨度以更好地建模实体边界信息。此外,对于那些更复杂的跨度对分类任务,我们设计了一种面向主体的打包策略,将每个主体及其所有客体打包以建模同主体跨度对之间的相互关联。实验结果表明,借助增强的标记特征,我们的模型在六个 NER 基准上超越了基线,并在 ACE04 和 ACE05 上以比先前最先进(state-of-the-art, SOTA)模型更高的速度获得了 4.1%–4.3% 的严格关系 F1 提升。
引用
@article{arxiv.2109.06067,
title = {Packed Levitated Marker for Entity and Relation Extraction},
author = {Deming Ye and Yankai Lin and Peng Li and Maosong Sun},
journal= {arXiv preprint arXiv:2109.06067},
year = {2022}
}
备注
Accepted to ACL 2022. The code and models are available at https://github.com/thunlp/PL-Marker