最优传输如何缓解多类神经网络分类器在职位推荐中的性别偏见
机器学习
2023-03-01 v1 人工智能
计算机与社会
机器学习
摘要
基于深度神经网络的自动推荐系统在过去十年中变得极为流行。然而，其中某些系统可用于被欧盟委员会在《人工智能法案》中列为高风险的应用，例如在线求职者推荐。当在欧盟使用时，为此用途的商业AI系统将被要求具备关于其可能引发的潜在歧视的恰当统计特性。这促使我们做出本贡献：我们提出了一种新颖的最优传输策略，以缓解多类神经网络分类中不良的算法偏见。我们的策略与模型无关，可用于任何多类分类神经网络模型。为预判基于文本数据的推荐系统认证，我们随后将其用于Bios数据集，该数据集的学习任务为根据女性与男性的LinkedIn传记预测其职业。结果表明，在此情境下它可将不良的算法偏见降低至低于标准策略的水平。
引用
@article{arxiv.2302.14063,
title = {How optimal transport can tackle gender biases in multi-class neural-network classifiers for job recommendations?},
author = {Fanny Jourdan and Titon Tshiongo Kaninku and Nicholas Asher and Jean-Michel Loubes and Laurent Risser},
journal= {arXiv preprint arXiv:2302.14063},
year = {2023}
}