在 Balanced Faces in the Wild 上平衡偏差并保护隐私
计算机视觉与模式识别
2023-07-07 v5 人工智能
摘要
当前的面部识别（FR）模型中存在人口统计学偏差。为衡量这些跨不同种族与性别子组的偏差，我们引入了 Balanced Faces in the Wild（BFW）数据集。该数据集支持按子组刻画 FR 性能。我们发现，依赖单一分数阈值来区分真实样本对与冒名样本对会导致次优结果。此外，子组内的性能常与全局平均存在显著差异。因此，特定错误率仅适用于与验证数据匹配的人群。为缓解不平衡性能，我们提出了一种新颖的域适应学习方案，该方案使用从最先进神经网络提取的面部特征。该方案在移除人口统计学知识的同时提升了平均性能并保留身份信息。移除人口统计学知识可防止潜在偏差影响决策，并通过消除人口统计学信息来保护隐私。我们探究了所提方法，并证明子组分类器无法再从经我们的域适应方案投影的特征中学习。有关源代码与数据的获取，请访问 https://github.com/visionjo/facerec-bias-bfw。
引用
@article{arxiv.2103.09118,
title = {Balancing Biases and Preserving Privacy on Balanced Faces in the Wild},
author = {Joseph P Robinson and Can Qin and Yann Henon and Samson Timoner and Yun Fu},
journal= {arXiv preprint arXiv:2103.09118},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2102.08941