结合远程与直接监督的神经关系抽取
计算与语言
2019-04-09 v2
摘要
在远程监督关系抽取中，噪声标签使得训练高质量模型十分困难。此前的神经模型通过注意力机制关注可能表达关系的句子来解决该问题。我们通过将远程监督数据与额外的直接监督数据相结合来改进此类模型，并将该直接监督数据用作注意力权重的监督信号。我们发现，在两类监督上联合训练可得到更优的模型，因为它提升了模型识别噪声句子的能力。此外，我们发现在此设置下，采用 sigmoid 注意力权重与最大池化比常用的加权平均注意力取得更好的性能。我们提出的方法在广泛使用的 FB-NYT 数据集上取得了新的 SOTA 结果。
引用
@article{arxiv.1810.12956,
title = {Combining Distant and Direct Supervision for Neural Relation Extraction},
author = {Iz Beltagy and Kyle Lo and Waleed Ammar},
journal= {arXiv preprint arXiv:1810.12956},
year = {2019}
}