具有法律基础的公平性目标
机器学习
2020-09-25 v1 计算机与社会
机器学习
摘要
近期工作已识别出若干形式不兼容的机器学习（ML）系统不公平性操作度量。由于这些度量都捕捉了直观上理想的公平系统方面，选择“唯一正确”的度量是不可能的，合理的做法是最小化度量的加权组合。然而，这仅仅引发了如何选取权重的问题。在此，我们提出具有法律基础的公平性目标（Legally Grounded Fairness Objectives, LGFO），其利用法律系统的信号来非任意地度量特定程度不公平的社会成本。LGFO是在假定诉讼下可能判给那些被错误分类者的预期损害赔偿，所谓错误分类是指ML系统做出的决定不同于法院偏好度量下本应做出的决定。值得注意的是，计算LGFO所需的两种量——法院关于公平性度量的偏好与预期损害赔偿——虽未知但定义明确，并可通过法律意见进行估计。此外，由于法律系统判处的损害赔偿旨在度量并补偿不公平分类给个人造成的伤害，LGFO与社会对该社会成本的估计紧密一致。
引用
@article{arxiv.2009.11677,
title = {Legally grounded fairness objectives},
author = {Dylan Holden-Sim and Gavin Leech and Laurence Aitchison},
journal= {arXiv preprint arXiv:2009.11677},
year = {2020}
}