词嵌入的联合多类别去偏
计算与语言
2020-03-26 v1 机器学习
机器学习
摘要
词嵌入中的偏见近来备受关注，同时出现了减少偏见的努力。当前方法在消除性别或种族等单一偏见维度方面展现出可喜进展。在本文中，我们提出一种联合多类别去偏方法，能够同时消除多个偏见维度。在该方向上，我们提出两种方法 HardWEAT 和 SoftWEAT，旨在通过最小化词嵌入关联测试（WEAT）的分数来减少偏见。我们通过在三个不同公开词嵌入上针对三类偏见（宗教、性别和种族）进行去偏，证明了我们方法的可行性，并表明我们的方法既能减少甚至完全消除偏见，同时保持词嵌入中向量间有意义的关系。我们的工作为文本数据更无偏的神经表示奠定了更坚实的基础。
引用
@article{arxiv.2003.11520,
title = {Joint Multiclass Debiasing of Word Embeddings},
author = {Radomir Popović and Florian Lemmerich and Markus Strohmaier},
journal= {arXiv preprint arXiv:2003.11520},
year = {2020}
}
备注
10 pages, 2 figures. To appear in the Proceedings of the 25th International Symposium on Intelligent Systems (ISMIS 2020), May 2020, Graz, Austria. Online appendix available at: https://git.io/JvL10