用于语义角色标注的句法感知图到图 Transformer
计算与语言
2023-06-05 v2
摘要
近期模型表明，将句法知识引入语义角色标注（SRL）任务可带来显著提升。本文提出句法感知图到图 Transformer（SynG2G-Tr）模型，其采用一种将图关系作为嵌入输入的新颖方式对句法结构进行编码，并直接融入 Transformer 的自注意力机制中。该方法在遵循句法结构的注意力模式上添加了软偏置，同时也允许模型利用该信息学习替代模式。我们在基于区间和基于依存关系的 SRL 数据集上评估了模型，并在 CoNLL 2005 与 CoNLL 2009 数据集的域内与域外设定下均优于以往的替代方法。
引用
@article{arxiv.2104.07704,
title = {Syntax-Aware Graph-to-Graph Transformer for Semantic Role Labelling},
author = {Alireza Mohammadshahi and James Henderson},
journal= {arXiv preprint arXiv:2104.07704},
year = {2023}
}
备注
Accepted to Rep4NLP at ACL 2023