InsideBias：深度网络中的偏置度量及其在人脸性别生物识别中的应用
计算机视觉与模式识别
2020-07-23 v3
摘要
本工作探究基于深度神经网络架构的学习过程中的偏置。我们通过使用 MNIST 数据库的玩具示例以及从人脸图像进行性别检测的 case study，分析偏置如何影响深度学习过程。我们采用两个基于流行深度神经网络的性别检测模型。我们全面分析了使用不平衡训练数据集时对模型所学特征的偏置效应。我们展示了偏置如何作用于基于人脸图像的性别检测模型的激活。我们最终提出 InsideBias，一种检测有偏模型的新方法。InsideBias 基于模型如何表示信息而非其表现如何，而后者是现有其他偏置检测方法的常规做法。我们借助 InsideBias 的策略，仅需极少样本（在我们的 case study 中仅 15 张图像）即可检测有偏模型。我们的实验包含来自 24K 个身份和 3 个族群的 72K 张人脸图像。
引用
@article{arxiv.2004.06592,
title = {InsideBias: Measuring Bias in Deep Networks and Application to Face Gender Biometrics},
author = {Ignacio Serna and Alejandro Peña and Aythami Morales and Julian Fierrez},
journal= {arXiv preprint arXiv:2004.06592},
year = {2020}
}