基于 Transformer 的跨语言关系抽取
计算与语言
2020-10-20 v1 人工智能
信息检索
机器学习
摘要
关系抽取（RE）是信息抽取中最重要的任务之一，因为它为许多 NLP 应用提供了必要信息。在本文中，我们提出了一种跨语言 RE 方法，该方法不需要目标语言中的任何人工标注或任何跨语言资源。基于无监督跨语言表示学习框架，我们开发了若干基于深度 Transformer 的 RE 模型，并采用一种新颖的编码方案，能够有效编码实体位置和实体类型信息。我们的 RE 模型在使用英语数据训练时，优于若干基于深度神经网络的英语 RE 模型。更重要的是，我们的模型可用于执行零样本跨语言 RE，在两个数据集上取得了最先进的跨语言 RE 性能（达到有监督目标语言 RE 模型准确率的 68-89%）。无需额外训练数据或跨语言资源即可实现的高跨语言迁移效率表明，我们的 RE 模型对低资源语言尤其有用。
引用
@article{arxiv.2010.08652,
title = {Cross-Lingual Relation Extraction with Transformers},
author = {Jian Ni and Taesun Moon and Parul Awasthy and Radu Florian},
journal= {arXiv preprint arXiv:2010.08652},
year = {2020}
}
备注
11 pages