基于预测的决策中的群体公平性：从道德评估到实现
机器学习
2022-10-20 v1 计算机与社会
摘要
确保基于预测的决策的公平性建立在统计群体公平性准则之上。这些准则中哪一个在道德上最为恰当取决于具体情境，其选择需要伦理分析。在本文中，我们提出一个逐步流程，整合三个要素：(a) 基于最近提出的“公平机会平等”（FEC）一般原则，对给定情境中公平性含义进行道德评估的框架；(b) 将评估结果映射到既有的统计群体公平性准则；以及 (c) 将如此定义的公平性整合进最优决策的方法。作为第二项贡献，我们展示了 FEC 原则的新应用，并表明借助这一扩展，FEC 框架涵盖了所有类型的群体公平性准则：独立性、分离性和充分性。第三，我们引入了 FEC 原则的扩展版本，其额外允许考虑公平性评估中道德无关的元素，并与众所周知的公平性准则松弛形式相关联。本文提出了一个以概念上合理的方式开发公平决策系统的框架，将基于预测的公平决策的道德与计算要素结合在一体化方法中。用于复现我们结果的数据和代码可在 https://github.com/joebaumann/fair-prediction-based-decision-making 获取。
引用
@article{arxiv.2210.10456,
title = {Group Fairness in Prediction-Based Decision Making: From Moral Assessment to Implementation},
author = {Joachim Baumann and Christoph Heitz},
journal= {arXiv preprint arXiv:2210.10456},
year = {2022}
}
备注
Accepted full paper at SDS2022, the 9th Swiss Conference on Data Science, code available on GitHub: https://github.com/joebaumann/fair-prediction-based-decision-making