基于递归层次交互注意力与实体顺序感知的远程监督关系抽取
计算与语言
2022-04-26 v2
摘要
错误标注问题与长尾关系严重影响了远程监督关系抽取任务的性能。许多研究通过选择性注意力机制缓解错误标注的影响，并引入关系层次结构以共享知识来处理长尾关系。然而，几乎所有现有研究都忽略了一个事实：在一个句子中，两个实体的出现顺序有助于理解其语义。此外，它们仅分别利用关系层次结构中的各个关系层级，而未挖掘关系层级之间的启发式作用，即高层关系可以为低层关系提供有用信息。基于上述，本文设计了一种新颖的递归层次交互注意力网络（RHIA）来进一步处理长尾关系，该网络对关系层级之间的启发式作用进行建模。它自上而下地逐层传递关系相关信息，这是与现有模型最显著的区别，并以递归结构为每个关系层级生成关系增强的句子表示。此外，我们引入了一种称为实体顺序感知（EOP）的新颖训练目标，以使句子编码器保留更多的实体出现信息。我们在流行的（NYT）数据集上进行了大量实验。与先前的基线相比，我们的 RHIA-EOP 在精确率-召回率（P-R）曲线、AUC、Top-N 精确率及其他评价指标上取得了最先进的性能。深入的分析也证明了 RHIA-EOP 各组成部分的必要性与有效性。
引用
@article{arxiv.2105.08213,
title = {Distantly Supervised Relation Extraction via Recursive Hierarchy-Interactive Attention and Entity-Order Perception},
author = {Ridong Han and Tao Peng and Jiayu Han and Hai Cui and Lu Liu},
journal= {arXiv preprint arXiv:2105.08213},
year = {2022}
}
备注
31 pages, Accepted by "Neural Networks"