重新思考偏差缓解：更公平的架构造就更公平的人脸识别
计算机视觉与模式识别
2023-12-08 v3 人工智能
计算机与社会
机器学习
摘要
人脸识别系统被广泛部署于包括执法在内的安全关键应用中，但其在性别、种族等一系列社会人口维度上表现出偏差。传统观点认为模型偏差源于有偏的训练数据。因此，以往关于偏差缓解的工作主要集中于对训练数据进行预处理、在训练期间添加惩罚以防止偏差影响模型，或对预测进行后处理以去偏，然而这些方法在人脸识别等难题上收效有限。在我们的工作中，我们发现偏差实际上固有地存在于神经网络架构本身。基于这一重新界定，我们首次开展了面向公平性的神经架构搜索，同时搜索超参数。我们的搜索输出了一组模型，在人脸 identification 最常用的两个数据集 CelebA 和 VGGFace2 上，于准确率和公平性方面以 often by large margins 帕累托主导所有其他高性能架构和现有偏差缓解方法。此外，这些模型可泛化至其他数据集和敏感属性。我们在 https://github.com/dooleys/FR-NAS 发布了代码、模型和原始数据文件。
引用
@article{arxiv.2210.09943,
title = {Rethinking Bias Mitigation: Fairer Architectures Make for Fairer Face Recognition},
author = {Samuel Dooley and Rhea Sanjay Sukthanker and John P. Dickerson and Colin White and Frank Hutter and Micah Goldblum},
journal= {arXiv preprint arXiv:2210.09943},
year = {2023}
}