中文

基于自注意力的深度语义角色标注

计算与语言 2017-12-06 v1

摘要

语义角色标注(SRL)被认为是迈向自然语言理解的关键一步,并已得到广泛研究。近年来,基于循环神经网络(RNN)的端到端SRL获得了越来越多的关注。然而,RNN处理结构信息与长距离依赖仍是一大挑战。本文提出一种简单而有效的SRL架构,旨在解决这些问题。我们的模型基于自注意力,可直接捕捉两个词元之间的关系而无论其距离远近。我们的单一模型在CoNLL-2005共享任务数据集上取得F1=83.4_1=83.4,在CoNLL-2012共享任务数据集上取得F1=82.7_1=82.7,分别比先前最优结果高出1.81.81.01.0的F1_1分数。此外,我们的模型计算高效,在单块Titan X GPU上解析速度为每秒50K词元。

关键词

引用

@article{arxiv.1712.01586,
  title  = {Deep Semantic Role Labeling with Self-Attention},
  author = {Zhixing Tan and Mingxuan Wang and Jun Xie and Yidong Chen and Xiaodong Shi},
  journal= {arXiv preprint arXiv:1712.01586},
  year   = {2017}
}

备注

Accepted by AAAI-2018