元嵌入中的性别偏见
计算与语言
2022-10-07 v3
摘要
已有多种方法被提出用于从给定的一组源嵌入中开发元嵌入。然而，源嵌入可能包含不公平的性别相关偏见，而这些偏见如何影响元嵌入尚未被研究。我们研究了在三种不同设定下创建的元嵌入中的性别偏见：(1) 对多个源不做任何去偏处理而进行元嵌入（多源无去偏），(2) 对经单一方法去偏的多个源进行元嵌入（多源单一去偏），以及 (3) 对经不同方法去偏的单一源进行元嵌入（单源多重去偏）。我们的实验结果表明，与输入源嵌入相比，元嵌入放大了性别偏见。我们发现，要缓解这些偏见，不仅需要对源进行去偏，也需要对其元嵌入进行去偏。此外，我们提出了一种基于元嵌入学习的新颖去偏方法，该方法对单一源嵌入使用多种去偏方法，随后创建单一的去偏元嵌入。
引用
@article{arxiv.2205.09867,
title = {Gender Bias in Meta-Embeddings},
author = {Masahiro Kaneko and Danushka Bollegala and Naoaki Okazaki},
journal= {arXiv preprint arXiv:2205.09867},
year = {2022}
}
备注
Findings of EMNLP 2022