通过人脸识别模型的视角解释人口统计偏差
计算机视觉与模式识别
2022-08-30 v1
摘要
数据和算法中固有的偏差使得基于机器学习(ML)的广泛决策系统的公平性不尽如人意。为提高此类ML决策系统的可信度，关键在于认识这些解决方案中固有的偏差，并使其对公众和开发者更加透明。在本工作中，我们旨在提供一组可解释性工具，用于分析人脸识别模型在处理不同人口统计群体时行为的差异。我们利用基于激活图的高阶统计信息构建可解释性工具，将人脸识别模型的行为差异与特定面部区域联系起来。在两个数据集和两种人脸识别模型上的实验结果指出了面部某些区域，在这些区域中人脸识别模型对某些人口统计群体与参考群体相比反应不同。这些分析的结果有趣地与那些分析不同人口统计群体面部的人体测量差异和人类判断差异的研究结果高度一致。因此，这是首项专门试图解释人脸识别模型在不同人口统计群体上的偏差行为并将其直接联系到空间面部特征的研究。代码已公开于此。
引用
@article{arxiv.2208.13400,
title = {Towards Explaining Demographic Bias through the Eyes of Face Recognition Models},
author = {Biying Fu and Naser Damer},
journal= {arXiv preprint arXiv:2208.13400},
year = {2022}
}
备注
Accepted at at the 2022 International Joint Conference on Biometrics (IJCB 2022)