基于刻板印象内容模型的社会群体无关词嵌入去偏
计算与语言
2022-10-13 v1 人工智能
机器学习
摘要
现有词嵌入去偏方法需要针对每个社会属性（如性别）的社会群体特定词对（如“man”-“woman”），无法用于缓解其他社会群体的偏见，使得这些方法在将研究不足的社会群体纳入去偏时 impractical 或成本高昂。我们提出，社会心理学中 developed 用于理解刻板印象内容的理论框架——刻板印象内容模型（SCM），其沿“温暖”与“能力”两个心理维度构建刻板印象内容，可通过捕捉偏见与刻板印象间的潜在联系，助力去偏工作实现社会群体无关。仅使用温暖（如“genuine”-“fake”）与能力（如“smart”-“stupid”）的术语对，我们采用既有方法进行去偏，并发现跨性别、种族与年龄，基于SCM的去偏表现与群体特定去偏相当。
引用
@article{arxiv.2210.05831,
title = {Social-Group-Agnostic Word Embedding Debiasing via the Stereotype Content Model},
author = {Ali Omrani and Brendan Kennedy and Mohammad Atari and Morteza Dehghani},
journal= {arXiv preprint arXiv:2210.05831},
year = {2022}
}
备注
short paper