基于图池化的语篇级关系抽取
计算与语言
2021-11-16 v3 人工智能
机器学习
摘要
捕捉语篇中词语之间复杂语言结构和长期依赖的能力,对于语篇级关系抽取(DRE)任务至关重要。图神经网络(GNNs)作为编码依赖图的方法之一,在先前 DRE 工作中已被证明有效。然而,GNNs 的感受野很少受到关注,而对于需要语篇理解的极长文本而言,感受野可能至关重要。在本工作中,我们利用图池化的思想,提出在 DRE 任务上使用池化-反池化框架。池化分支减小图规模,使 GNNs 能在更少层数内获得更大感受野;反池化分支将池化后的图恢复到原始分辨率,从而可提取实体提及的表示。我们提出从句匹配(CM),一种受语言学启发的、面向 NLP 任务的新型图池化方法。在两个 DRE 数据集上的实验表明,在需要建模长期依赖时,我们的模型显著优于基线,显示了池化-反池化框架及我们的 CM 池化方法的有效性。
引用
@article{arxiv.2101.00124,
title = {Discourse-level Relation Extraction via Graph Pooling},
author = {I-Hung Hsu and Xiao Guo and Premkumar Natarajan and Nanyun Peng},
journal= {arXiv preprint arXiv:2101.00124},
year = {2021}
}
备注
12 pages, page 10-12 appendix