利用师生训练与三元组损失降低严重人脸遮挡的影响
计算机视觉与模式识别
2021-11-23 v1 机器学习
摘要
我们研究在两种需要分析强遮挡下面部的真实场景中的一系列识别任务。一方面，我们旨在识别佩戴虚拟现实(VR)头显者的面部表情。另一方面，我们旨在估计佩戴外科口罩者的年龄并识别其性别。对于所有这些任务，共同点是面部被遮挡一半。在这一具有挑战性的设定下，我们表明在完全可见面部上训练的卷积神经网络(CNN)性能水平很低。虽然对深度学习模型在遮挡面部上微调极为有用，我们表明通过从在完全可见面部上训练的模型蒸馏知识可获得额外的性能提升。为此，我们研究两种知识蒸馏方法，一种基于师生训练，一种基于三元组损失。我们的主要贡献在于一种基于三元组损失的新型知识蒸馏方法，其可跨模型与任务泛化。此外，我们考虑组合通过常规师生训练或我们基于三元组损失的新型师生训练习得的蒸馏模型。我们提供经验证据，表明在大多数情况下，单独的与组合的知识蒸馏方法均带来统计显著的性能改进。我们使用三种不同神经模型(VGG-f、VGG-face、ResNet-50)在各种任务(面部表情识别、性别识别、年龄估计)上开展实验，显示出无论模型或任务均一致的改进。
引用
@article{arxiv.2111.10561,
title = {Teacher-Student Training and Triplet Loss to Reduce the Effect of Drastic Face Occlusion},
author = {Mariana-Iuliana Georgescu and Georgian Duta and Radu Tudor Ionescu},
journal= {arXiv preprint arXiv:2111.10561},
year = {2021}
}
备注
Accepted in Machine Vision and Applications. arXiv admin note: text overlap with arXiv:2008.01003