FairCal：面向人脸验证的公平性校准
计算机视觉与模式识别
2022-03-31 v4 机器学习
机器学习
摘要
尽管被广泛使用，人脸识别模型存在偏差：假阳性（错误的人脸匹配）的概率强烈依赖于敏感属性（如人脸的种族）。因此，这些模型可能对少数群体产生不成比例的负面影响，尤其是在执法部门使用时。大多数偏差削减方法存在若干缺陷：它们采用端到端重训练方法，可能因隐私问题而不可行，并且常常降低准确率。另一种方法是后处理方法，利用预训练模型的特征构建更公平的决策分类器，从而避免了重训练的成本。然而，它们仍有缺陷：降低准确率（AGENDA、PASS、FTC），或需要针对不同假阳性率重新调参（FSN）。在这项工作中，我们提出公平性校准（FairCal）方法，一种训练后方法，可同时：（i）提升模型准确率（改进当前最优水平），（ii）产生公平性校准的概率，（iii）显著缩小假阳性率的差距，（iv）不需要知晓敏感属性，以及（v）不需要重训练、训练额外模型或重新调参。我们将其应用于人脸验证任务，并凭借上述所有优势取得了当前最优结果。
引用
@article{arxiv.2106.03761,
title = {FairCal: Fairness Calibration for Face Verification},
author = {Tiago Salvador and Stephanie Cairns and Vikram Voleti and Noah Marshall and Adam Oberman},
journal= {arXiv preprint arXiv:2106.03761},
year = {2022}
}
备注
Accepted at ICLR 2022