迈向理解关系抽取中的性别偏见
机器学习
2020-08-11 v3 计算与语言
机器学习
摘要
神经关系抽取(NRE)的最新进展在自动化知识库构建(AKBC)方面取得了重大进展。尽管准确性改进备受关注，但据我们所知，文献中尚未尝试评估 NRE 系统中的社会偏见。我们创建了 WikiGenderBias，一个具有人工标注测试集的远程监督数据集。WikiGenderBias 中的句子经过专门筛选以分析关系抽取系统中的性别偏见。我们使用 WikiGenderBias 评估系统的偏见，发现 NRE 系统表现出性别偏见的预测，并为未来 NRE 中偏见的评估奠定基础。我们还分析了姓名匿名化、词嵌入的硬去偏以及反事实数据增强如何影响预测中的性别偏见和性能。
引用
@article{arxiv.1911.03642,
title = {Towards Understanding Gender Bias in Relation Extraction},
author = {Andrew Gaut and Tony Sun and Shirlyn Tang and Yuxin Huang and Jing Qian and Mai ElSherief and Jieyu Zhao and Diba Mirza and Elizabeth Belding and Kai-Wei Chang and William Yang Wang},
journal= {arXiv preprint arXiv:1911.03642},
year = {2020}
}