部分合规下的公平机器学习
计算机与社会
2022-09-28 v4 机器学习
机器学习
摘要
通常，公平机器学习研究聚焦于单一决策者，并假设底层群体是平稳的。然而，推动该工作的许多关键领域以拥有众多决策者的竞争市场为特征。现实中，我们可能预期其中只有一部分会采用任何非强制的公平意识政策，政治哲学家称这种情况为部分合规。这一可能性提出了重要问题：在部分合规设定下决策主体的策略行为如何影响分配结果？如果 k% 的雇主自愿采用公平促进干预，我们是否应预期（总体上）朝普遍采用收益方向取得 k% 的进展，还是部分合规的动态会抵消掉期望的益处？采用全局（ versus 局部）视角会如何影响审计者的结论？在本文中，我们提出一个简单的就业市场模型，利用仿真作为工具探索交互效应和激励效应对结果及审计度量的影响。我们的关键发现是，在均衡时：(1) 部分合规（k% 的雇主）可能导致远小于成比例 (k%) 的朝完全合规结果的进展；(2) 当公平雇主匹配全局（ versus 局部）统计量时，差距更严重；(3) 局部与全局统计量的选择能描绘出合规与非合规雇主在公平诉求表现上截然不同的图景；(4) 对局部 parity 度量的部分合规可诱发极端隔离。
引用
@article{arxiv.2011.03654,
title = {Fair Machine Learning Under Partial Compliance},
author = {Jessica Dai and Sina Fazelpour and Zachary C. Lipton},
journal= {arXiv preprint arXiv:2011.03654},
year = {2022}
}
备注
Presented at AIES 2021; previously at the NeurIPS 2020 Workshop on Consequential Decision Making in Dynamic Environments and the NeurIPS 2020 Workshop on ML for Economic Policy. Minor correction uploaded Sept. 2022