公平性启发的算法框架
机器学习
2020-10-15 v2 机器学习
摘要
我们考虑这样的场景：正确的公平性概念无法由简单的数学定义（如各组间错误率相等）刻画，而可能更为复杂和微妙，因此需要从个体或集体利益相关者处进行启发。我们引入一个框架，其中可识别个体对，要求其在所学模型下获得（近似）平等对待，或要求有序对待，例如“申请人 Alice 应至少与申请人 Bob 一样可能获得贷款”。我们提供了一种可证明收敛且预言机高效的算法，用于在所启发的公平性约束下学习最精确的模型，并证明了准确性和公平性的泛化界。该算法还可将启发的约束与传统统计公平性概念结合，从而以前者“修正”或修改后者。我们报告了在 COMPAS 刑事再犯数据集上利用人类受试者公平性约束进行启发的行为学研究的初步发现。
引用
@article{arxiv.1905.10660,
title = {An Algorithmic Framework for Fairness Elicitation},
author = {Christopher Jung and Michael Kearns and Seth Neel and Aaron Roth and Logan Stapleton and Zhiwei Steven Wu},
journal= {arXiv preprint arXiv:1905.10660},
year = {2020}
}