FairDeFace：面向人脸遮挡方法公平性与对抗鲁棒性的评估框架
计算机视觉与模式识别
2025-03-13 v1 机器学习
摘要
缺乏面向人脸遮挡方法的统一平台和基准数据集是当前评估人脸遮挡方法的主要挑战，各方法常基于任意实验、数据集和指标进行测试。尽管已有研究表明人脸识别系统对某些人口统计少数群体存在偏见，但我们对人脸遮挡方法公平性的了解仍存显著鸿沟。提供公平的人脸遮挡方法可确保不同人口统计少数群体获得均等的保护，尤其是它们可用于保护易受攻击的群体的隐私。为此，我们引入一个全面的框架，命名为 FairDeFace，用于评估人脸遮挡方法的对抗鲁棒性和公平性。该框架引入了一系列模块，包括数据基准、人脸检测与识别算法、对抗模型、效用检测模型以及公平性指标。FairDeFace 是一个通用的平台，可集成任何人脸遮挡方法，以进行严格的测试和与其他最先进方法的比较。在其当前实现中，FairDeFace 集成了 6 种攻击方式以及多个隐私、效用和公平性指标。通过 FairDeFace 进行超过 500 项实验，我们评估并比较了七种人脸遮挡方法的对抗鲁棒性。这一广泛分析揭示了现有方法在鲁棒性程度以及对某些性别或种族群体偏见的程度。FairDeFace 还利用可视化聚焦区域显示部分人口统计少数群体在遮挡和验证攻击中的遮挡区域，从而显示哪些区域被改变，以及为何失败。
引用
@article{arxiv.2503.08731,
title = {FairDeFace: Evaluating the Fairness and Adversarial Robustness of Face Obfuscation Methods},
author = {Seyyed Mohammad Sadegh Moosavi Khorzooghi and Poojitha Thota and Mohit Singhal and Abolfazl Asudeh and Gautam Das and Shirin Nilizadeh},
journal= {arXiv preprint arXiv:2503.08731},
year = {2025}
}