深度学习人脸识别：骄傲还是偏见？
计算机视觉与模式识别
2019-06-21 v2
摘要
深度网络极高的准确率意味着有效AI的骄傲，还是深度网络存在偏见？它们是否遭受内群体偏差（本族偏差与本年龄偏差）并模仿人类行为？深度网络是否在潜意识中编码了特定内群体信息？本研究试图回答这些问题，并对基于深度学习的人脸识别系统中的“偏差”进行深度分析。这是首个解码人脸识别中偏差是否被编码及在何处编码的工作。借鉴认知研究，我们考察深度网络是否也受社会内群体与外群体效应影响。对网络进行本族与本年龄偏差分析，二者在人类中均已得到充分证实。通过考察人脸识别模型的潜意识行为，以理解它们是否为人脸识别编码了种族或年龄特定特征。分析基于在多个数据集上进行的36项实验。使用了四个或从零训练或在超过10M图像上预训练的深度学习网络。类激活图与特征可视化上的差异为深度学习系统的运作提供了新颖见解，表明其行为与人类相似。我们相信，更好理解最先进的深度学习网络将使研究者能应对AI中偏差这一挑战，并开发更公平的系统。
引用
@article{arxiv.1904.01219,
title = {Deep Learning for Face Recognition: Pride or Prejudiced?},
author = {Shruti Nagpal and Maneet Singh and Richa Singh and Mayank Vatsa},
journal= {arXiv preprint arXiv:1904.01219},
year = {2019}
}