隐形滤镜：大型语言模型在招聘评估中的文化偏见
计算机与社会
2025-08-26 v1 人工智能
计算与语言
摘要
人工智能 (AI) 正在招聘领域中日益普及，大型语言模型 (LLMs) 有潜力影响甚至作出招聘决策。然而，这引发了关于偏见、公平性和信任的问题，尤其是在多元文化语境下。尽管 LLMs 的作用日益重要，但少数研究系统性地检视 AI 驱动的跨文化招聘评估中的潜在偏见。本研究系统分析了 LLMs 在不同文化和身份维度上如何评估职位面试。我们使用两个面试 transcript 数据集，分别来自英国和印度的 100 名求职者，首先检查 LLMs 生成的可录取性及相关特质在跨文化差异方面的得分。即使在匿名化处理后，印度 transcript 的得分也持续低于英国 transcript，偏差与句子复杂度和词汇多样性等语言特征相关。随后我们对印度数据集中的身份替换进行控制实验（更改姓名的性别、种姓和地区），测试是否存在以姓名为基础的偏见。这些替换并未产生统计显著效应，表明在其他情境信号孤立的情况下，姓名本身可能不会影响 LLMs 的评估。我们的发现强调了在 LLMs 驱动的评估中，既要评估语言维度，也要评估社会维度的重要性，并突显了在 AI 辅助招聘中进行文化敏感设计和问责制的必要性。
引用
@article{arxiv.2508.16673,
title = {Invisible Filters: Cultural Bias in Hiring Evaluations Using Large Language Models},
author = {Pooja S. B. Rao and Laxminarayen Nagarajan Venkatesan and Mauro Cherubini and Dinesh Babu Jayagopi},
journal= {arXiv preprint arXiv:2508.16673},
year = {2025}
}
备注
Accepted to AIES 2025