基于生成式 Transformer 的对比三元组抽取
计算与语言
2023-01-26 v8 人工智能
数据库
信息检索
机器学习
摘要
三元组抽取是自然语言处理与知识图谱构建中信息抽取的一项基本任务。在本文中，我们重新审视用于序列生成的端到端三元组抽取任务。由于生成式三元组抽取可能难以捕捉长期依赖并生成不忠实三元组，我们引入了一种新模型：基于生成式 Transformer 的对比三元组抽取。具体而言，我们引入单一的共享 Transformer 模块用于基于编码器-解码器的生成。为生成忠实结果，我们提出了一种新颖的三元组对比训练目标。此外，我们引入两种机制以进一步提升模型性能（即批级动态注意力掩码与三元组级校准）。在三个数据集（即 NYT、WebNLG 和 MIE）上的实验结果表明，我们的方法优于基线方法。
引用
@article{arxiv.2009.06207,
title = {Contrastive Triple Extraction with Generative Transformer},
author = {Hongbin Ye and Ningyu Zhang and Shumin Deng and Mosha Chen and Chuanqi Tan and Fei Huang and Huajun Chen},
journal= {arXiv preprint arXiv:2009.06207},
year = {2023}
}
备注
Accepted by AAAI 2021