面向下游公平性的多准确代理模型
机器学习
2022-01-27 v2 数据结构与算法
摘要
我们研究在训练时敏感特征不可用的情况下训练必须满足人口统计公平性条件的模型的问题——换言之，当我们没有关于种族的数据时，如何训练一个按种族公平的模型？我们采用公平性流水线视角，其中具有敏感特征访问权限的“上游”学习器将从其他属性中学习这些特征的代理模型。该代理的目标是允许一个通用的“下游”学习器——对其预测任务的假设最少——能够利用该代理训练一个相对于真实敏感特征公平的模型。我们表明，相对于下游模型类满足多准确性约束即足以达成此目的，提供了用于学习此类代理的样本与预言机高效算法及泛化界，并进行了实验评估。一般而言，多准确性远比分类准确性易于满足，且即便敏感特征难以预测也可被满足。
引用
@article{arxiv.2107.04423,
title = {Multiaccurate Proxies for Downstream Fairness},
author = {Emily Diana and Wesley Gill and Michael Kearns and Krishnaram Kenthapadi and Aaron Roth and Saeed Sharifi-Malvajerdi},
journal= {arXiv preprint arXiv:2107.04423},
year = {2022}
}