面向长句关系抽取增强的实体感知自注意力与上下文感知 GCN
计算与语言
2024-11-13 v2 人工智能
摘要
关系抽取作为一项重要的自然语言处理 (NLP) 任务，旨在识别文本中命名实体之间的关系。近期，基于依存树的图卷积网络被广泛用于捕获句法特征，并取得了引人注目的性能。然而，大多数现有的基于依存树的方法忽略了依存树之外词汇的积极影响，而这些词汇有时能传达对关系抽取丰富且有用的信息。在本文中，我们提出了一种新颖的模型——实体感知自注意力上下文感知 GCN (ESC-GCN)，该模型有效地融合了输入句子的句法结构与序列的语义上下文。具体而言，相对位置自注意力获取与词位置相关的整体语义成对相关性，而上下文感知图卷积网络通过充分的剪枝操作捕获词之间丰富的句内依赖关系。此外，实体感知注意力层动态选择对最终关系预测更具决定性的 token。通过这种方式，我们提出的模型不仅降低了依存树的噪声影响，还获取了易被忽略的实体相关语义表示。在多种任务上的大量实验表明，与现有的基于依存树和基于序列的模型相比，我们的模型取得了令人鼓舞的性能。特别地，我们的模型在抽取长句中实体之间的关系方面表现优异。
引用
@article{arxiv.2409.13755,
title = {Entity-Aware Self-Attention and Contextualized GCN for Enhanced Relation Extraction in Long Sentences},
author = {Xin Wang and Xinyi Bai},
journal= {arXiv preprint arXiv:2409.13755},
year = {2024}
}