中文

算法遗传:姓氏偏见强化代际不平等

计算机与社会 2025-02-06 v2 人工智能 机器学习 综合经济学 经济学

摘要

姓氏往往传递社会地位、财富与血统的隐性标记,塑造人们的感知,可能延续系统性偏见并加剧代际不平等。本研究首次探讨姓氏是否及如何影响AI驱动的决策,聚焦招聘推荐、领导任命及贷款批准等关键领域。我们采用来自美国和泰国的72,000项600个姓氏评估,将姓名分类为“富豪”、“传统”、“普通”及相似音变的“变体”组。研究发现,精英姓氏持续提升AI对权力、智力和财富的感知,从而影响高风险情境下的AI决策。中介分析揭示,感知智力是姓氏偏见影响AI决策过程的关键机制。虽为候选人提供客观资历可缓解大部分偏见,但在候选人资历较低的情境中仍无法完全消除。这些发现凸显需要公平导向的算法及健全的政策措施,以防止AI系统强化与姓氏相关的系统性不平等——这种偏见常被忽视,相较于种族与性别等显性特征更不为人知。我们的工作呼吁对算法问责进行深入审视,及时评估其对社会影响的广泛影响,尤其是旨在维护功绩制度同时遏制代际特权延续的系统。

关键词

引用

@article{arxiv.2501.19407,
  title  = {Algorithmic Inheritance: Surname Bias in AI Decisions Reinforces Intergenerational Inequality},
  author = {Pat Pataranutaporn and Nattavudh Powdthavee and Pattie Maes},
  journal= {arXiv preprint arXiv:2501.19407},
  year   = {2025}
}

备注

33 pages, 5 figures, 1 table