公平性概念及相关张力综述
计算机与社会
2023-06-21 v2 人工智能
机器学习
摘要
自动化决策系统正日益被用于就业招聘、贷款发放等 consequential 决策中，以期用客观的机器学习（ML）算法取代主观的人类决策。然而，基于ML的决策系统容易产生偏差，从而导致不公平决策。文献中已定义了若干公平性概念，以捕捉这一伦理与社会概念的不同微妙之处（例如统计 parity、机会均等，等）。在学习模型时需满足的公平性要求，在各类公平性概念与其他期望属性（如隐私与分类准确率）之间引发了多种张力。本文综述了常用的公平性概念，并讨论了它们与隐私和准确率之间的张力。文中回顾了应对公平性-准确率权衡的不同方法（分为预处理、处理中、后处理及混合四类）。该综述结合在公平性基准数据集上开展的实验分析，以阐明真实场景中公平性度量与准确率之间的关系。
引用
@article{arxiv.2209.13012,
title = {Survey on Fairness Notions and Related Tensions},
author = {Guilherme Alves and Fabien Bernier and Miguel Couceiro and Karima Makhlouf and Catuscia Palamidessi and Sami Zhioua},
journal= {arXiv preprint arXiv:2209.13012},
year = {2023}
}