迈向公平人脸验证：人口统计偏差的深入分析
计算机视觉与模式识别
2023-07-20 v1
摘要
近年来，基于深度学习的人员识别与验证系统在准确性方面显著提升；然而，此类系统（包括广受欢迎的基于云的解决方案）被发现表现出与种族、年龄和性别相关的显著偏差，这是一个需要深入探究与解决的问题。本文给出一项深入分析，特别侧重于这些人口统计因素的交叉性。交叉偏差指的是相对于种族、年龄和性别群体不同组合的性能差异，这是当前文献中相对未被探索的领域。此外，大多数最先进方法对准确性作为首要评估指标的依赖常掩盖了性能上显著的人口统计差异。为应对这一关键局限，我们在定量分析中纳入了五个额外指标，包括差异影响与误对待指标，而这些通常被相关公平感知方法所忽略。在 Racial Faces in-the-Wild (RFW) 基准上的结果表明人脸识别系统中存在普遍偏差，其超出种族范围，不同人口统计因素产生显著不同的结果。具体而言，非洲人相比高加索人表现出低 11.25% 的真正率（TPR），而仅观察到 3.51% 的准确率下降。更令人担忧的是，多个受保护群体（如 60 岁以上的非洲女性）的交集相比最高高加索人比率表现出 +39.89% 的差异误对待率。通过揭示这些偏差及其影响，本文旨在促进进一步研究以开发更公平、更平等的人脸识别与验证系统。
引用
@article{arxiv.2307.10011,
title = {Towards Fair Face Verification: An In-depth Analysis of Demographic Biases},
author = {Ioannis Sarridis and Christos Koutlis and Symeon Papadopoulos and Christos Diou},
journal= {arXiv preprint arXiv:2307.10011},
year = {2023}
}