基于语言模型检索的简历筛选中的性别、种族及交叉偏见

人工智能招聘工具已 revolutionize 了简历筛选，大型语言模型（LLM）有望实现同样的效果。然而，鉴于 LLM 中嵌入的偏见，尚不清楚它们在此场景下是否可用于而不使基于其受保护属性的群体受到不利影响。在本 work 中，我们通过文档检索框架模拟候选人选择的情境来探讨使用 LLM 在简历筛选场景中的可能性。我们使用该框架进行简历审计研究，以确定一组巨型文本嵌入（MTE）模型在简历筛选情境中的偏见。我们针对九种职业进行了模拟，使用了超过 500 个公开可用的简历和 500 份职位描述。我们发现 MTE 在 85.1% 的情况下显著偏向于与白人关联姓名，在只有 11.1% 的情况下偏向于女性关联姓名，且少数情况下显示无显著差异。进一步分析表明，黑人男性在最坏情况下达到 100% 的不利情况，复制了就业情境中实际的偏见模式，并验证了三种交叉性假设。我们还发现文档长度以及姓名在语料库中的频率对简历选择产生影响。这些发现对广泛使用的自动化就业 AI 工具、公平性以及科技政策具有启发意义。