用于弱监督关系抽取的深度残差学习
计算与语言
2017-07-28 v1 人工智能
摘要
深度残差学习是一种利用恒等映射作为捷径连接来训练极深神经网络的新方法。ResNet 赢得了 ImageNet ILSVRC 2015 分类任务,并在许多计算机视觉任务中取得了最先进的性能。然而,残差学习对含噪自然语言处理任务的影响仍不甚明了。在本文中,我们设计了一种带有残差学习的新型卷积神经网络,并研究了其对远程监督含噪关系抽取任务的影响。与普遍认为 ResNet 仅对极深网络有效的看法相反,我们发现即使对于 9 层的 CNN,使用恒等映射也能显著提升远程监督关系抽取的性能。
引用
@article{arxiv.1707.08866,
title = {Deep Residual Learning for Weakly-Supervised Relation Extraction},
author = {Yi Yao Huang and William Yang Wang},
journal= {arXiv preprint arXiv:1707.08866},
year = {2017}
}
备注
Accepted by EMNLP 2017