论预测建模者与决策者：为何公平不止需要一个公平的预测模型
计算机与社会
2024-03-19 v1 机器学习
摘要
基于预测的决策的领域中，一个隐含的模糊性涉及预测与决策概念之间的关系。该领域的大量文献倾向于模糊这两个概念之间的界限，并常常简单地谈论“公平预测”。在本文中，我们指出在实现算法公平时有必要区分这些概念。即使公平属性与所用预测模型的特征相关，更恰当地被称为“公平”或“不公平”的应是决策系统，而非预测模型。这是因为公平关乎决策而非预测对人类生活造成的后果。我们澄清了预测与决策概念之间的区别，并展示了这两个要素影响基于预测的决策系统最终公平属性的不同方式。除了从概念和实践上探讨这一关系外，我们提出了一个框架，能够更好地理解并推理在基于预测的决策者中创建公平的概念逻辑。在我们的框架中，我们明确了不同的角色，即“预测建模者”和“决策者”，以及为实现系统公平各自所需提供的信息。我们的框架可推导出两个角色的不同责任，并讨论与伦理和法律要求相关的一些见解。我们的贡献有两方面。首先，我们将焦点从抽象算法公平转向情境依赖的决策，认识到具有独特目标和独立行动的不同行动者。其次，我们提供了一个概念框架，有助于在公平问题方面构建基于预测的决策问题、明确责任，并在现实场景中实施公平治理机制。
引用
@article{arxiv.2310.05598,
title = {On Prediction-Modelers and Decision-Makers: Why Fairness Requires More Than a Fair Prediction Model},
author = {Teresa Scantamburlo and Joachim Baumann and Christoph Heitz},
journal= {arXiv preprint arXiv:2310.05598},
year = {2024}
}