CoupleFace：关系对于人脸识别蒸馏至关重要
计算机视觉与模式识别
2022-11-18 v2
摘要
知识蒸馏是一种通过迁移性能良好神经网络（即教师模型）的知识来提升轻量级神经网络（即学生模型）性能的有效方法，已广泛应用于包括人脸识别在内的许多计算机视觉任务中。然而，现有人脸识别蒸馏方法通常对教师与学生模型针对每个样本提取的所学嵌入使用特征一致性蒸馏（FCD）（如 L2 距离），无法将教师模型的知识充分迁移给学生模型以用于人脸识别。本工作中，我们观察到样本间的相互关系知识对于提升学生模型所学表示的判别能力同样重要，并提出一种有效的人脸识别蒸馏方法 CoupleFace，通过在现有蒸馏框架中额外引入相互关系蒸馏（MRD）。具体而言，在 MRD 中，我们首先提出挖掘信息丰富的相互关系，然后引入关系感知蒸馏（RAD）损失将教师模型的相互关系知识迁移给学生模型。在多个基准数据集上的大量实验结果证明了我们所提 CoupleFace 在人脸识别上的有效性。此外，基于所提 CoupleFace，我们在 ICCV21 掩码人脸识别挑战赛（MS1M 赛道）中获得第一名。
引用
@article{arxiv.2204.05502,
title = {CoupleFace: Relation Matters for Face Recognition Distillation},
author = {Jiaheng Liu and Haoyu Qin and Yichao Wu and Jinyang Guo and Ding Liang and Ke Xu},
journal= {arXiv preprint arXiv:2204.05502},
year = {2022}
}
备注
Accepted by ECCV22