Fair SA：面向人脸识别公平性的敏感性分析
计算机视觉与模式识别
2022-02-10 v2 人工智能
机器学习
摘要
随着深度学习在高影响领域的普遍应用，评估模型的鲁棒性愈发重要。其中一个高影响领域是人脸识别，其现实应用涉及受多种退化（如运动模糊或高曝光）影响的图像。此外，跨不同属性（如性别与种族）捕获的图像也会挑战人脸识别算法的鲁棒性。尽管传统汇总统计量表明人脸识别模型的聚合性能持续提升，这些度量并不直接衡量模型的鲁棒性或公平性。视觉心理物理敏感性分析（VPSA）[1]通过数据中引入增量扰动来定位失败的个体成因。然而，扰动可能对子群产生不同影响。本文提出一种基于鲁棒性的新公平性评估，其形式为扩展VPSA的通用框架。借助该框架，我们能分析模型对受扰动人群不同子群公平表现的能力，并通过度量针对性鲁棒性来精确定位子群的失败模式。随着对模型公平性的日益关注，我们以人脸识别作为框架的示例应用，并提议通过AUC矩阵紧凑可视化模型的公平性分析。我们分析常用人脸识别模型的性能，并经验性地表明某些子群在图像受扰动时处于劣势，从而揭示在无扰动子群性能中不可见的趋势。
引用
@article{arxiv.2202.03586,
title = {Fair SA: Sensitivity Analysis for Fairness in Face Recognition},
author = {Aparna R. Joshi and Xavier Suau and Nivedha Sivakumar and Luca Zappella and Nicholas Apostoloff},
journal= {arXiv preprint arXiv:2202.03586},
year = {2022}
}
备注
8 pages, 5 figures, to be published in NeurIPS 2021 Workshop, Algorithmic Fairness through the Lens of Causality and Robustness