在敏感属性不可知情况下度量公平性：一种基于量化的方法

算法与模型正日益被部署以告知有关人的决策，不可避免地影响着他们的生活。因此，负责开发这些模型的人必须仔细评估其对不同人群的影响并偏好群体公平，即确保由种族或性别等敏感人口属性决定的群体不被不公正对待。为实现此目标，评估这些模型影响的人对这些人口属性的可用（知晓）至关重要。不幸的是，收集和存储这些属性常与行业实践以及有关数据最小化和隐私的立法相冲突。因此，即便在开发这些模型的公司内部，也可能难以度量已训练模型的群体公平性。在本文中，我们利用量化（一种关注直接提供群体层面流行率估计而非个体层面类标签的监督学习任务）的技术，处理在敏感属性不可知情况下度量群体公平的问题。我们表明量化方法特别适合解决不可知下的公平问题，因为它们对不可避免的分布式偏移具有鲁棒性，同时将度量群体公平这一（可取的）目标与允许推断个体敏感属性这一（不可取的）副作用解耦。更详细地，我们表明不可知下的公平可被表述为一个量化问题，并用量化文献中已有证明的方法求解。我们表明这些方法在五个实验协议下优于先前度量人口均等的途径，这些协议对应于使不可知下分类器公平性估计复杂化的重要挑战。