基于人类监督学习COMPAS数据公平性度量的实证研究
计算机与社会
2019-11-01 v2 人工智能
机器学习
摘要
个体公平性的概念要求相似的人获得相似的对待。然而，这在实践中难以实现，因为很难指定恰当的相似性度量。在这项工作中，我们试图从人类标注数据中学习此种相似性度量。我们收集了一个关于犯罪再犯预测（COMPAS）任务的人类判断新数据集。通过假设人类监督遵循个体公平性原则，我们利用已有的度量学习工作，评估了多种度量学习方法在我们数据集上的性能，并表明在多种准则下，学习到的度量优于欧几里得度量和Precision度量。我们并未提供直接学习满足个体公平性的相似性度量的方法，而是提供了一项关于如何从人类监督者处推导相似性度量的实证研究，未来的工作可将此作为理解人类监督的工具。
引用
@article{arxiv.1910.10255,
title = {An Empirical Study on Learning Fairness Metrics for COMPAS Data with Human Supervision},
author = {Hanchen Wang and Nina Grgic-Hlaca and Preethi Lahoti and Krishna P. Gummadi and Adrian Weller},
journal= {arXiv preprint arXiv:1910.10255},
year = {2019}
}
备注
Accepted at NeurIPS 2019 HCML Workshop