基于均等的累积公平感知提升方法
机器学习
2022-01-05 v1 人工智能
摘要
数据驱动的 AI 系统可能基于性别或种族等受保护属性产生歧视。此行为的一个原因是训练数据中所编码的社会偏见（例如女性代表性不足），并在类别分布不平衡（例如“授予”为少数类）时进一步恶化。最先进的公平感知机器学习方法侧重于在提升公平性的同时保持整体分类精度。在类别不平衡情况下，此类方法可能通过剥夺本已代表性不足的群体（例如女性）平等社会特权（例如平等信贷机会）的基本权利而进一步加剧歧视问题。为此，我们提出 AdaFair，一种公平感知提升集成方法，其在每轮改变数据分布，不仅考虑类别错误，还考虑基于部分集成累积定义的模型公平相关性能。除在训练中对每轮受歧视群体进行提升外，AdaFair 在训练后阶段通过优化集成学习器数量以实现平衡错误率（BER）性能，直接应对不平衡问题。AdaFair 可支持不同的基于均等的公平概念，并有效缓解歧视性结果。我们的实验表明，该方法能在统计均等、机会均等和差异错误对待方面实现均等，同时对所有类别保持良好的预测性能。
引用
@article{arxiv.2201.01148,
title = {Parity-based Cumulative Fairness-aware Boosting},
author = {Vasileios Iosifidis and Arjun Roy and Eirini Ntoutsi},
journal= {arXiv preprint arXiv:2201.01148},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:1909.08982