基于袋内与袋间注意力的远程监督关系抽取

本文提出一种神经关系抽取方法，以处理远程监督生成的含噪训练数据。以往研究主要通过设计带有袋内注意力的神经网络来进行句子级去噪。本文同时考虑袋内与袋间注意力，以分别处理句子级和袋级的噪声。首先，通过使用袋内注意力对句子嵌入进行加权，计算出关系感知的袋表示。此处，每种可能的关系都被用作注意力计算的查询，而非像传统方法那样仅使用目标关系。此外，训练集中共享同一关系标签的一组袋的表示，通过使用基于相似度的袋间注意力模块对袋表示进行加权来计算。最后，在构建关系抽取器时，将一个袋组作为训练样本。在 New York Times 数据集上的实验结果证明了我们所提出的袋内与袋间注意力模块的有效性。我们的方法在该数据集上也取得了优于当前最优方法的关系抽取准确率。