缓解机器学习的后果差异是否需要待遇差异？
机器学习
2019-01-14 v3 机器学习
摘要
继法律与政策领域的相關工作之后，两种差异概念已成为算法决策中公平性研究的框架。若算法在形式上对受保护子群的成员区别对待，则表现出待遇差异；若结果在子群间存在差异（即使该相关性是无意中产生的），则算法表现出后果差异。自然地，我们可以通过有意的待遇差异来实现后果均等。在一条技术工作脉络中，论文旨在调和这两种均等形式，提出了差异学习过程（DLPs）。在此，学习算法在训练时可看到群体成员身份，但在测试时产生群体盲的分类器。在本文中，我们从理论上表明：(i) 当其他特征与群体成员身份相关时，DLPs 将（间接地）实施待遇差异，破坏了它们旨在解决的政策诉求；(ii) 当群体成员身份被其他特征部分揭示时，DLPs 引发类内歧视；(iii) 一般而言，DLPs 在准确率与后果均等之间提供了次优的权衡。基于我们的技术分析，我们认为透明的待遇差异优于用于实现后果均等的隐蔽方法。在多个真实世界数据集上的实验结果凸显了应用 DLPs 与逐组阈值的实际后果。
引用
@article{arxiv.1711.07076,
title = {Does mitigating ML's impact disparity require treatment disparity?},
author = {Zachary C. Lipton and Alexandra Chouldechova and Julian McAuley},
journal= {arXiv preprint arXiv:1711.07076},
year = {2019}
}