去性别化简历以实现公平算法简历筛选

我们研究是否可行从简历中移除性别相关信息，以缓解算法简历筛选中的潜在偏差。使用来自 IT 公司的 709k 份简历语料库，我们首先训练一系列模型来分类申请者自我报告的性别，从而衡量简历中编码的性别相关信息的程度与性质。随后我们进行一系列性别混淆实验，迭代地从简历中移除性别相关信息。最后，我们训练一个简历筛选算法并研究性别混淆与筛选算法性能之间的权衡。结果显示：（1）简历中存在大量性别相关信息。（2）基于词典的性别混淆方法（即移除对性别有预测性的 token）能在很大程度上减少性别相关信息量。然而，超过某一点后，简历筛选算法的性能开始受损。（3）针对 NLP 模型的通用性别去偏方法，如从嵌入中移除性别子空间，在混淆性别方面无效。