从感知有效性到实际影响:自动反刻板印象的具身身份感知评估
计算机与社会
2025-10-28 v1
摘要
我们研究了自动生成的反刻板印象对社交媒体上不同人口统计学特征用户所持性别偏见的影响。基于自然语言处理领域的最新进展和社会心理学文献,我们评估了两种反刻板印象策略——反事实( counter-facts )和扩展普遍性(broadening universals,即陈述任何人无论群体归属如何都可能具有某种特质)——它们在先前研究中被识别为最具潜在有效性的策略。我们通过内隐联想测试(IAT)以及外显偏见和感知效用的自我报告测量,评估了这些策略在不同用户群体(性别和年龄)中对缓解性别偏见的真实世界影响。我们的研究结果表明,实际有效性并不与感知有效性一致,前者是一种细致入微且在不同人口统计学群体间有时呈现分歧的现象。尽管整体偏见减少有限,但某些群体(例如年长、男性参与者)在响应某些干预时表现出可衡量的内隐偏见改善。相反,年轻参与者,尤其是女性,在响应相同干预时表现出偏见增加。这些结果凸显了刻板印象缓解的复杂性和身份敏感性,呼吁采用动态且具备上下文感知能力的评估与缓解策略。
引用
@article{arxiv.2510.23523,
title = {From Perceived Effectiveness to Measured Impact: Identity-Aware Evaluation of Automated Counter-Stereotypes},
author = {Svetlana Kiritchenko and Anna Kerkhof and Isar Nejadgholi and Kathleen C. Fraser},
journal= {arXiv preprint arXiv:2510.23523},
year = {2025}
}
备注
In Proceedings of the Identity-Aware AI Workshop at 28th European Conference on Artificial Intelligence (ECAI-2025)