SynthDistill：基于合成数据知识蒸馏的人脸识别
计算机视觉与模式识别
2023-08-30 v1
摘要
最先进的人脸识别网络通常计算开销大，无法用于移动应用。训练轻量级人脸识别模型也需要大规模带身份标注的数据集。同时，收集和使用大规模人脸识别数据集存在隐私与伦理问题。虽然生成合成数据集用于训练人脸识别模型是一种替代方案，但生成具有充足类内变化的合成数据颇具挑战。此外，在真实与合成数据上训练的模型性能之间仍存在显著差距。本文提出一个新框架（名为 SynthDistill），通过使用合成数据蒸馏预训练教师人脸识别模型的知识来训练轻量级人脸识别模型。我们利用预训练的人脸生成器网络生成合成人脸图像，并用这些合成图像学习轻量级学生网络。我们使用无身份标签的合成人脸图像，缓解了合成数据集类内变化生成中的问题。相反，我们提出一种从人脸生成器网络中间潜空间进行动态采样的新策略，以纳入困难图像的新变化，同时在训练批次中进一步探索新的人脸图像。在五个人脸识别数据集上的结果表明，我们的轻量级模型优于在先前合成数据集上训练的模型，以轻量级网络在 LFW 数据集上达到 99.52% 的验证准确率。结果还表明，我们提出的框架显著缩小了真实与合成数据训练之间的差距。用于复现实验的源代码已公开发布。
引用
@article{arxiv.2308.14852,
title = {SynthDistill: Face Recognition with Knowledge Distillation from Synthetic Data},
author = {Hatef Otroshi Shahreza and Anjith George and Sébastien Marcel},
journal= {arXiv preprint arXiv:2308.14852},
year = {2023}
}
备注
Accepted in the IEEE International Joint Conference on Biometrics (IJCB 2023)