名如其人：基于名称的反事实数据替换以缓解性别偏见
计算与语言
2020-02-06 v3 计算机与社会
摘要
本文研究词嵌入中潜在的性别偏见。以往的缓解尝试依赖于将性别偏见操作为在线性子空间上的投影。另一种方法是反事实数据增强（CDA），即复制语料并增强以去除偏见，例如通过复制副本中所有固有性别词进行交换。我们在 English Gigaword 和 Wikipedia 上对这些方法做了实证比较，发现尽管两者都成功降低了直接偏见并在量化嵌入质量的任务中表现良好，CDA 变体在绘制无偏见性别类比的任务上平均跨两个语料优于基于投影的方法 19%。我们提出对 CDA 的两项改进：反事实数据替换（CDS），一种随机替换潜在偏见文本以避免复制的 CDA 变体；以及名称干预，一种极大增加被处理词数量的新型名称配对技术。采用名称干预的 CDA/S 是唯一能够缓解间接性别偏见的方法：去偏后，先前有偏的词按性别的聚类显著减弱（聚类纯度降低 49%），从而改进了偏见缓解的最优水平。
引用
@article{arxiv.1909.00871,
title = {It's All in the Name: Mitigating Gender Bias with Name-Based Counterfactual Data Substitution},
author = {Rowan Hall Maudslay and Hila Gonen and Ryan Cotterell and Simone Teufel},
journal= {arXiv preprint arXiv:1909.00871},
year = {2020}
}
备注
Correction to proof in appendix and minor changes