基于知识蒸馏神经网络的面部关键点检测
计算机视觉与模式识别
2021-11-16 v1
摘要
面部关键点检测是众多面部图像分析应用中的重要步骤。尽管一些基于深度学习的方法在此任务上取得了良好性能，它们通常不适合在移动设备上运行。这类方法依赖参数众多的网络，使得训练和推理耗时。训练 MobileNets 等轻量神经网络通常具有挑战性，且模型可能准确率较低。受知识蒸馏（KD）启发，本文提出一种新颖的损失函数来训练用于面部关键点检测的轻量学生网络（如 MobileNetV2）。我们使用两个教师网络，一个宽容教师和一个严苛教师，与学生网络协同工作。宽容教师使用由主动形状模型创建的软关键点训练，而严苛教师使用真实标注（亦称硬关键点）关键点训练。为利用教师网络预测的面部关键点，我们为每个教师网络定义了一个辅助损失（ALoss）。此外，我们定义了一个称为 KD-Loss 的损失函数，利用两个预训练教师网络（EfficientNet-b3）预测的面部关键点来引导学生轻量网络预测硬关键点。我们在三个具有挑战性的面部数据集上的实验结果表明，所提出的架构能训练出更好的学生网络，可高精度提取面部关键点。
引用
@article{arxiv.2111.07047,
title = {Facial Landmark Points Detection Using Knowledge Distillation-Based Neural Networks},
author = {Ali Pourramezan Fard and Mohammad H. Mahoor},
journal= {arXiv preprint arXiv:2111.07047},
year = {2021}
}
备注
Accepted in Computer Vision and Image Understanding Journal