再审视句法：用于性别歧义代词消解的关系图卷积网络
计算与语言
2019-06-04 v3
摘要
已有的共指消解器中发现了性别偏见。为消除性别偏见，发布了性别平衡的Gendered Ambiguous Pronouns (GAP)数据集，其最佳基线模型仅取得66.9%的F1。Bidirectional Encoder Representations from Transformers (BERT)已打破多项NLP任务纪录，并可用于GAP数据集。然而，在特定任务上微调BERT计算开销巨大。本文中，我们提出一种端到端消解器，将预训练BERT与关系图卷积网络(R-GCN)相结合。R-GCN用于消化结构化句法信息并学习更好的任务特定嵌入。实证结果表明，在显式句法监督下且无需微调BERT，R-GCN的嵌入在共指任务上优于原始BERT嵌入。我们的工作将GAP数据集上的片段-上下文基线F1分数从66.9%显著提升至80.3%。我们参与了2019年GAP共指共享任务，且代码已在线公开。
引用
@article{arxiv.1905.08868,
title = {Look Again at the Syntax: Relational Graph Convolutional Network for Gendered Ambiguous Pronoun Resolution},
author = {Yinchuan Xu and Junlin Yang},
journal= {arXiv preprint arXiv:1905.08868},
year = {2019}
}
备注
Accepted by ACL 2019 Workshop on Gender Bias for Natural Language Processing