类不平衡下的多重公平性
机器学习
2022-06-22 v3 计算机与社会
摘要
近期研究表明,用于多受保护属性(以下称多重歧视)公平感知机器学习的数据库往往存在不平衡。在关键少数类中,常被低估的受保护群体(如女性、非白人等)所面临的类不平衡问题更为严重。然而,现有方法仅关注整体误差-歧视权衡,忽视不平衡问题,从而放大了少数类中的普遍偏见。因此,需要解决方案来应对多重歧视与类不平衡的复合问题。为此,我们引入一种新的公平性度量——多重最大误处理(MMM),它同时考虑实例的(多属性)受保护群体与类成员身份来度量歧视。为解决该复合问题,我们提出一种提升方法,将 MMM 代价纳入分布更新,并在训练后于准确、平衡与公平的解中最优权衡。实验结果表明,相较于最先进方法,我们的方法在跨群体与跨类产生最佳平衡性能以及为少数类中受保护群体提供最佳准确率方面具有优越性。
引用
@article{arxiv.2104.13312,
title = {Multi-fairness under class-imbalance},
author = {Arjun Roy and Vasileios Iosifidis and Eirini Ntoutsi},
journal= {arXiv preprint arXiv:2104.13312},
year = {2022}
}