使用大型情感词典对词嵌入模型进行大范围算法偏见筛查揭示了少被报道的偏见类型

本工作描述了流行词嵌入模型中沿性别和种族维度，以及沿社会经济地位、年龄、性取向、宗教情感和政治倾向等较少被研究的维度的大规模情感关联分析。与以往学术文献一致，本工作发现在所检查的大多数嵌入模型中，存在针对非裔美国人常用名的系统性偏见。然而，嵌入模型中的性别偏见似乎是多方面的，且其极性通常与经常报道的相反。有趣的是，使用公平性文献中对该术语的常见操作化定义，还识别出了词嵌入模型中迄今为止未报道的新型偏见类型。具体而言，此处分析的流行嵌入模型显示出对中产阶级和工人阶级社会经济地位、男童、老年人、普通外貌、伊斯兰宗教信仰、无宗教信仰以及保守政治取向的负面偏见。相关文献中这些偏见类型被反直觉地少有报道的原因可能是多方面的，但在搜索算法偏见时普遍存在的盲点，以及缺乏能够明确描述各种算法关联的广泛技术术语，可能起到了一定作用。嵌入模型中附着于不同人口群体的多重预设关联的因果起源通常尚不清楚，但这些关联的异质性及其潜在的多重因子根源，使人们对将它们全部归入“偏见”这一统称术语下的有效性产生怀疑。更丰富、更细粒度的术语体系以及对偏见全景的更全面探索，可以帮助公平性认知社区更有效地刻画和消除算法歧视。