去偏嵌入以降低文本分类中的性别偏见
机器学习
2019-08-09 v1 计算与语言
机器学习
摘要
(Bolukbasi et al., 2016) 证明了预训练词嵌入会从训练数据中继承性别偏见。我们以职业分类为案例研究 (De-Arteaga et al., 2019)，考察这种偏见如何影响下游分类任务。我们表明，传统的嵌入去偏技术实际上会通过提供噪声更少的性别信息传输通道而加剧下游分类器的偏见。然而，通过相对微小的调整，我们展示了如何将这些相同技术用于同时减少偏见并保持较高的分类准确率。
引用
@article{arxiv.1908.02810,
title = {Debiasing Embeddings for Reduced Gender Bias in Text Classification},
author = {Flavien Prost and Nithum Thain and Tolga Bolukbasi},
journal= {arXiv preprint arXiv:1908.02810},
year = {2019}
}