识别并改善基于 GPT 的简历筛选中的残疾偏见
计算机与社会
2024-05-24 v2 人工智能
摘要
随着生成式人工智能采用率的上升，其使用范围已扩展至招聘和招募等领域。然而，若不审视潜在的偏见，这可能会对包括残疾人在内的边缘化群体产生负面影响。为解决这一重要关切，我们提出了一项简历审计研究，要求 ChatGPT（具体为 GPT-4）对一份简历与同一份增加了残疾相关领导奖、奖学金、小组展示和会员资格的增强版简历进行排名。我们发现 GPT-4 对这些增强版简历表现出偏见。此外，我们表明，通过基于多样性、公平性与包容性（DEI）及残疾正义原则训练自定义 GPTs，可以量化地减少这种偏见。我们的研究还包括对 GPT-4 用于为其偏见决策辩护的直接和间接能力主义类型的独特定性分析，并提出了进一步偏见缓解工作的方向。此外，由于这些辩护理由 presumably 源自包含人类做出的现实世界偏见陈述的训练数据，我们的分析为理解和解决人类偏见提供了额外途径。
引用
@article{arxiv.2402.01732,
title = {Identifying and Improving Disability Bias in GPT-Based Resume Screening},
author = {Kate Glazko and Yusuf Mohammed and Ben Kosa and Venkatesh Potluri and Jennifer Mankoff},
journal= {arXiv preprint arXiv:2402.01732},
year = {2024}
}