深度学习驱动的自动化简历筛选中的国籍歧视
计算与语言
2023-07-18 v1
摘要
许多公司与组织已开始使用某种形式的AI赋能自动化工具来辅助其招聘流程，例如筛选简历、面试候选人和绩效评估。尽管这些AI工具极大提升了人力资源运营效率并为求职者提供便利，但人们对AI系统底层偏见导致对候选人不公平对待的担忧日益增加。诸如GDPR、CCPA等关于平等机会与公平性的法律已出台或正在制定，以试图监管AI。然而，由于技术不断演进且相关应用风险可能未被识别，在实践中落实AI监管十分困难。本研究考察了深度学习这一近期技术突破，重点关注其在自动化简历筛选中的应用。深度学习的一个令人印象深刻的性能是将单个词表示为低维数值向量，称为词嵌入（word embedding），其从语料库（如Wikipedia或Google新闻）的全局词-词共现统计中学习得到。所得的词表示拥有词向量空间有趣的线性子结构，并广泛用于简历筛选等下游任务。然而，由于深度学习模型本质上从历史事件数据学习词及其关系的概率分布，词嵌入继承并强化了训练语料中的刻板印象。我们的研究发现，若依赖此类深度学习驱动的自动化简历筛选工具，可能导致偏向或不利于特定人口群体的决策，并引发伦理甚至法律关切。为解决该问题，我们开发了偏见缓解方法。在真实候选人简历上进行了大量实验以验证我们的研究。
引用
@article{arxiv.2307.08624,
title = {National Origin Discrimination in Deep-learning-powered Automated Resume Screening},
author = {Sihang Li and Kuangzheng Li and Haibing Lu},
journal= {arXiv preprint arXiv:2307.08624},
year = {2023}
}