基于 DG-SpanBERT 的高效长距离关系抽取
计算与语言
2021-02-19 v1 人工智能
信息检索
机器学习
摘要
在自然语言处理中,关系抽取旨在合理理解非结构化文本。本文提出一种新颖的基于 SpanBERT 的图卷积网络(DG-SpanBERT),其利用预训练语言模型 SpanBERT 和图卷积网络从原始句子中提取语义特征并汇聚潜在特征。我们的 DG-SpanBERT 模型继承了 SpanBERT 从大规模语料学习丰富词汇特征的优势,并因在依存树上使用 GCN 而具备捕捉实体间长距离关系的能力。实验结果表明,我们的模型优于其他现有的基于依存和基于序列的模型,并在 TACRED 数据集上取得了最先进的性能。
引用
@article{arxiv.2004.03636,
title = {Efficient long-distance relation extraction with DG-SpanBERT},
author = {Jun Chen and Robert Hoehndorf and Mohamed Elhoseiny and Xiangliang Zhang},
journal= {arXiv preprint arXiv:2004.03636},
year = {2021}
}