算法决策中的主动公平性
计算机与社会
2018-11-08 v2 人工智能
机器学习
应用统计
摘要
社会日益依赖机器学习模型进行自动化决策。然而，自动化带来的效率提升也伴随着对算法歧视可能使不平等系统化的担忧。近期工作提出了最优后处理方法，通过对一部分个体的分类决策进行随机化，以实现与错误率和校准的均等相关的公平性度量。然而，这些方法因所导致的信息低效、群体内不公平和帕累托次优而引发关切。本工作提出了一种替代性的主动公平分类框架，其中在部署时，决策者可依据不同群体或个体的需求自适应地获取信息，以平衡分类性能上的差异。我们提出了两种此类方法，分别使信息收集适应群体层面和个体层面的需求。我们在真实世界数据集上表明，这些方法可实现：1）校准与单一错误率均等（例如，机会均等）；以及 2）假阳性率与假阴性率两者的均等（即，等几率）。此外，我们表明通过利用其额外的自由度，主动方法可以大幅优于先前被认为最优的基于随机化的分类器，同时避免如群体内不公平等局限。
引用
@article{arxiv.1810.00031,
title = {Active Fairness in Algorithmic Decision Making},
author = {Alejandro Noriega-Campero and Michiel A. Bakker and Bernardo Garcia-Bulle and Alex Pentland},
journal= {arXiv preprint arXiv:1810.00031},
year = {2018}
}