领域知识增强的结构化神经网络用于端到端事件时序关系抽取
计算与语言
2020-10-07 v2 人工智能
摘要
抽取事件时序关系是一项关键信息抽取任务，并在自然语言理解中扮演重要角色。已有系统利用深度学习与预训练语言模型来提升该任务的性能。然而，这些系统常有两个缺陷：1) 当基于神经模型执行最大后验(MAP)推断时，以往系统仅使用了被假定为绝对正确的结构化知识，即硬约束；2) 在有限数据量训练时对主导时序关系的偏置预测。为解决这些问题，我们提出一种用由概率性领域知识构造的分布约束来增强深度神经网络的框架。我们通过拉格朗日松弛求解该约束推断问题，并将其应用于端到端事件时序关系抽取任务。实验结果表明，我们的框架能够以强统计显著性在两个广泛用于新闻与临床领域的基准数据集上改进基线神经网络模型。
引用
@article{arxiv.2009.07373,
title = {Domain Knowledge Empowered Structured Neural Net for End-to-End Event Temporal Relation Extraction},
author = {Rujun Han and Yichao Zhou and Nanyun Peng},
journal= {arXiv preprint arXiv:2009.07373},
year = {2020}
}
备注
Appear in EMNLP'20