蒸馏与去偏：利用知识蒸馏缓解人脸验证中的偏差
计算机视觉与模式识别
2022-04-19 v3
摘要
人脸识别网络通常针对性别、肤色等敏感属性表现出偏差。对于性别和肤色，我们观察到网络所关注的面部区域随属性类别不同而不同。这可能助长了偏差。基于这一直觉，我们提出了一种新颖的基于蒸馏的方法，称为 Distill and De-bias（D&D），以强制网络关注相似的面部区域，而不论属性类别如何。在 D&D 中，我们在一个属性的某一类别图像（例如浅肤色）上训练教师网络；然后通过从教师网络蒸馏信息，我们在剩余类别的图像（例如深肤色）上训练学生网络。特征级蒸馏损失约束学生网络生成类似教师的表征。这使得学生网络对所有属性类别关注相似的面部区域，并使其能够减少偏差。我们还在 D&D 之上提出了第二步蒸馏，称为 D&D++。在此，我们将 D&D 网络的“无偏性”蒸馏到一个新的学生网络（即 D&D++ 网络）中，同时在该新网络的所有属性类别（例如浅肤色和深肤色）上训练。这有助于我们训练出一个对某一属性偏差更小、同时获得比 D&D 更高人脸验证性能的网络。我们表明，在 IJB-C 数据集上，D&D++ 在降低性别和肤色偏差方面优于现有基线，同时获得比现有对抗去偏方法更高的人脸验证性能。我们在两个最先进的人脸识别网络 ArcFace 和 Crystalface 上评估了所提方法的有效性。
引用
@article{arxiv.2112.09786,
title = {Distill and De-bias: Mitigating Bias in Face Verification using Knowledge Distillation},
author = {Prithviraj Dhar and Joshua Gleason and Aniket Roy and Carlos D. Castillo and P. Jonathon Phillips and Rama Chellappa},
journal= {arXiv preprint arXiv:2112.09786},
year = {2022}
}