中文

利用层次化知识蒸馏学习轻量级行人检测器

计算机视觉与模式识别 2019-09-23 v1

摘要

为现实世界应用构建一个同时要求精度和速度的行人检测系统仍然极具挑战性。本工作提出了一种新颖的层次化知识蒸馏框架,用于学习轻量级行人检测器,该框架在显著降低计算成本的同时,仍能保持高精度。遵循“教师-学生”模式,即一个更强、更深的神经网络可以教导一个轻量级网络学习更好的表征,我们探索了多种知识蒸馏架构,并将此方法重构为一个统一的层次化蒸馏框架。具体而言,所提出的蒸馏在现代检测器的多个层次、多个阶段进行,这使学生检测器能够同时学习低级细节和高级抽象。实验结果表明,使用我们的框架训练出的学生模型,在参数量压缩 6 倍的情况下,仍在广泛使用的行人检测基准上取得了与教师模型相当的性能。

关键词

引用

@article{arxiv.1909.09325,
  title  = {Learning Lightweight Pedestrian Detector with Hierarchical Knowledge Distillation},
  author = {Rui Chen and Haizhou Ai and Chong Shang and Long Chen and Zijie Zhuang},
  journal= {arXiv preprint arXiv:1909.09325},
  year   = {2019}
}

备注

Accepted at ICIP 2019 as Oral