用于轻量化人体姿态估计的有序双教师知识蒸馏
计算机视觉与模式识别
2021-06-18 v3 人工智能
摘要
尽管深度卷积神经网络（DCNN）在人体姿态估计中取得了优异性能，这些网络往往具有大量参数与计算量，导致推理速度缓慢。针对该问题，一种有效的解决方案是知识蒸馏，即将知识从大型预训练网络（教师）迁移到小型网络（学生）。然而，现有方法存在一些缺陷：（I）仅采用单一教师，忽视了学生可从多位教师学习的潜力。（II）人体分割掩码可视为限制关键点位置的额外先验信息，却从未被利用。（III）参数较少的学生无法完全模仿数据集与教师提供的热图。（IV）教师生成的热图中存在噪声，导致模型退化。为克服这些缺陷，我们提出有序双教师知识蒸馏（ODKD）框架，其由两位能力不同的教师组成。具体而言，较弱者（初级教师，PT）用于传授关键点信息，较强者（高级教师，ST）通过加入人体分割掩码来迁移分割与关键点信息。将双教师结合，提出一种有序学习策略以促进知识可吸收性。此外，我们采用二值化操作，进一步提升了学生的学习能力并降低了热图中的噪声。在COCO与OCHuman关键点数据集上的实验结果表明，我们所提出的ODKD能大幅改善不同轻量化模型的性能，且配备ODKD的HRNet-W16在轻量化人体姿态估计中达到了最优性能。
引用
@article{arxiv.2104.10414,
title = {Orderly Dual-Teacher Knowledge Distillation for Lightweight Human Pose Estimation},
author = {Zhong-Qiu Zhao and Yao Gao and Yuchen Ge and Weidong Tian},
journal= {arXiv preprint arXiv:2104.10414},
year = {2021}
}