基于自注意力的深度语义角色标注
计算与语言
2017-12-06 v1
摘要
语义角色标注(SRL)被认为是迈向自然语言理解的关键一步,并已得到广泛研究。近年来,基于循环神经网络(RNN)的端到端SRL获得了越来越多的关注。然而,RNN处理结构信息与长距离依赖仍是一大挑战。本文提出一种简单而有效的SRL架构,旨在解决这些问题。我们的模型基于自注意力,可直接捕捉两个词元之间的关系而无论其距离远近。我们的单一模型在CoNLL-2005共享任务数据集上取得F,在CoNLL-2012共享任务数据集上取得F,分别比先前最优结果高出与的F分数。此外,我们的模型计算高效,在单块Titan X GPU上解析速度为每秒50K词元。
引用
@article{arxiv.1712.01586,
title = {Deep Semantic Role Labeling with Self-Attention},
author = {Zhixing Tan and Mingxuan Wang and Jun Xie and Yidong Chen and Xiaodong Shi},
journal= {arXiv preprint arXiv:1712.01586},
year = {2017}
}
备注
Accepted by AAAI-2018