是否存在古德哈特定律的例外？论公平感知机器学习的道德正当性
机器学习
2024-07-03 v3 人工智能
计算机与社会
摘要
公平感知机器学习（fair-ml）技术是为确保受机器学习模型预测影响的个体得到公平对待而设计的算法干预。该问题常被表述为一个优化问题，其目标是在定量公平性约束下实现高预测性能。然而，任何设计 fair-ml 算法的尝试都必须假设一个古德哈特定律（Goodhart's law）存在例外的世界：当一项公平性度量成为优化约束时，它不会 ceases 成为一个好的度量。本文中，我们论证公平性度量对古德哈特定律尤为敏感。我们的主要贡献如下。首先，我们提出了一个用于对公平性指标的正当性进行道德推理的框架。与现有工作不同，我们的框架纳入了一种信念，即结果分布是否公平不仅取决于不平等的成因，还取决于决策对象拥有获得特定收益或避免特定负担的道德主张。我们利用该框架提炼出特定公平性度量对应于公平结果分布所依赖的道德与经验假设。其次，我们探讨了在 fair-ml 算法中将公平性度量作为约束在道德上可正当化的程度，以 Hardt 等人（2016）提出的 fair-ml 算法为例。我们说明，通过 fair-ml 算法强制实施公平性度量往往不会产生促使其使用的公平结果分布，甚至可能伤害该干预旨在保护的个体。
引用
@article{arxiv.2202.08536,
title = {Are There Exceptions to Goodhart's Law? On the Moral Justification of Fairness-Aware Machine Learning},
author = {Hilde Weerts and Lambèr Royakkers and Mykola Pechenizkiy},
journal= {arXiv preprint arXiv:2202.08536},
year = {2024}
}