FairGrad：公平性感知的梯度下降
机器学习
2023-08-08 v2 人工智能
计算机与社会
摘要
我们解决分类中的群体公平性问题，其目标是学习不会对人口中特定子群体进行不公正歧视的模型。大多数现有方法局限于简单的二分类任务，或涉及难以实现的训练机制，从而降低了其实用性。在本文中，我们提出 FairGrad，一种基于重加权方案来强制公平性的方法，该方案根据群体是否处于优势地位迭代地学习群体特定的权重。FairGrad 易于实现，可适配多种标准公平性定义，且开销极小。此外，我们表明它在包括自然语言处理和计算机视觉中使用的多个数据集上与标准基线具有竞争力。FairGrad 作为 PyPI 包提供，地址为 - https://pypi.org/project/fairgrad
引用
@article{arxiv.2206.10923,
title = {FairGrad: Fairness Aware Gradient Descent},
author = {Gaurav Maheshwari and Michaël Perrot},
journal= {arXiv preprint arXiv:2206.10923},
year = {2023}
}
备注
Paper is accepted at Transactions on Machine Learning Research. Reviewed on OpenReview: https://openreview.net/forum?id=0f8tU3QwWD