分类中从均等到基于偏好的公平性概念
机器学习
2017-11-30 v2 机器学习
摘要
在日益广泛的应用中采用自动化的数据驱动决策，引发了人们对其可能对某些社会群体产生不公平对待的担忧。在此背景下，近期许多研究致力于在数据驱动决策系统中定义、检测和消除不公平性。然而，现有的公平性概念基于不同社会群体在待遇或结果上的均等（平等），往往过于严苛，限制了整体决策准确性。在本文中，我们从经济学与博弈论中的公平分配与无嫉妒性文献汲取灵感，提出了基于偏好的公平性概念——给定多组决策待遇或结果之间的选择，任何用户群体都会集体偏好其自身的待遇或结果，而无论与其他群体相比的（不）均等程度如何。随后，我们引入可处理的代理约束，以设计满足这些基于偏好的公平性概念的基于间隔的分类器。最后，我们在多种合成与真实世界数据集上实验，表明基于偏好的公平性比基于均等的公平性允许更高的决策准确性。
引用
@article{arxiv.1707.00010,
title = {From Parity to Preference-based Notions of Fairness in Classification},
author = {Muhammad Bilal Zafar and Isabel Valera and Manuel Gomez Rodriguez and Krishna P. Gummadi and Adrian Weller},
journal= {arXiv preprint arXiv:1707.00010},
year = {2017}
}
备注
To appear in Proceedings of the 31st Conference on Neural Information Processing Systems (NIPS 2017). Code available at: https://github.com/mbilalzafar/fair-classification