词嵌入中的地区性负向偏差预测种族敌意——但仅通过姓名频率
计算与语言
2022-01-24 v1 人工智能
机器学习
摘要
词嵌入关联测试（WEAT）是一种重要方法，用于测量大型文本语料库中对社会群体（如少数族裔）的语言偏差。其通过比较典型代表各群体的词（如这些群体特有的姓名）与属性词（如“愉快”与“不愉快”词）的语义相关性来实现。我们表明，来自地理标记社交媒体数据、以都会统计区为单位的反黑 WEAT 估计值与多种种族敌意度量强烈相关——即使在控制社会人口协变量时亦然。然而，我们也表明这些相关中的每一个都由第三变量解释：底层语料库中黑人名相对于白人名出现的频率。这是因为词嵌入倾向于将正（负）向词与高频（低频）词在估计语义空间中聚在一起。由于社交媒体上黑人名频率与黑人在人口中占比强烈相关，这导致在黑人居民较少处出现虚假的反黑 WEAT 估计值。这表明使用 WEAT 测量偏差的研究应考虑词频，也展示了使用词嵌入等黑箱模型研究人类认知与行为的潜在后果。
引用
@article{arxiv.2201.08451,
title = {Regional Negative Bias in Word Embeddings Predicts Racial Animus--but only via Name Frequency},
author = {Austin van Loon and Salvatore Giorgi and Robb Willer and Johannes Eichstaedt},
journal= {arXiv preprint arXiv:2201.08451},
year = {2022}
}
备注
5 pages, 1 figure