面面人脸识别系统偏差：质心公平性损失优化
计算机视觉与模式识别
2025-04-29 v1 人工智能
机器学习
机器学习
摘要
社会对公平 AI 系统的迫切需求正推动研究社区开发出既在全局上准确又满足新公平准则的预测模型，这些准则反映了对敏感属性（如性别、种族、年龄）缺乏差别待遇。特别是，面脸识别 (FR) 系统在特定人口细分上的错误率差异性削弱了后者的部署，并被监管机构视为不可接受。设计公平的 FR 系统是一个非常具有挑战性的问题，主要是由于该领域中使用的绩效度量（即 ROC 曲线）的复杂性和通常可获得面部图像数据集的巨大异质性。在本文中，我们提出一种新颖的后处理方法，通过优化作用于质心得分的回归损失来提高预训练 FR 模型的公平性。除了该方法的计算优势外，我们还 presented 数值实验，提供了强有力的实证证据，证明公平性提升且能够保持全局准确性。
引用
@article{arxiv.2504.19370,
title = {Mitigating Bias in Facial Recognition Systems: Centroid Fairness Loss Optimization},
author = {Jean-Rémy Conti and Stéphan Clémençon},
journal= {arXiv preprint arXiv:2504.19370},
year = {2025}
}
备注
Accepted at both the AFME and RegML Workshops at NeurIPS 2024. A preliminary version has been accepted for publication by Springer Nature, in the context of the ICPR 2024 conference