面向密集预测的结构化知识蒸馏
计算机视觉与模式识别
2020-06-16 v7
摘要
在本工作中，我们考虑将大模型的结构信息迁移至紧凑模型，以用于计算机视觉中的密集预测任务。先前用于密集预测任务的知识蒸馏策略常直接借用图像分类的蒸馏方案，并对每个像素分别执行知识蒸馏，导致次优性能。此处我们提出从大模型向紧凑模型蒸馏结构化知识，考虑到密集预测是一个结构化预测问题这一事实。具体地，我们研究两种结构化蒸馏方案：i) 通过构建静态图来蒸馏成对相似度的成对蒸馏；以及 ii) 使用对抗训练来蒸馏整体知识的整体蒸馏。我们知识蒸馏方法的有效性在三个密集预测任务上由实验证明：语义分割、深度估计与目标检测。代码见：https://git.io/StructKD
引用
@article{arxiv.1903.04197,
title = {Structured Knowledge Distillation for Dense Prediction},
author = {Yifan Liu and Changyong Shun and Jingdong Wang and Chunhua Shen},
journal= {arXiv preprint arXiv:1903.04197},
year = {2020}
}
备注
v1:10 pages cvpr2019 accepted; v2:15 pages for a journal version; Code is available at: https://github.com/irfanICMLL/structure_knowledge_distillation; fix typos