面向芯片级密集图像预测的定制化知识蒸馏
计算机视觉与模式识别
2025-08-12 v5
摘要
已有研究表明,为AI芯片设计的高效密集图像预测(Efficient Dense Image Prediction, EDIP)模型在使用知识蒸馏(Knowledge Distillation, KD)框架进行训练时,尽管具备识别主要目标区域的良好实时能力,但会遇到两个关键挑战:保持边界区域完整性和确保目标区域连通性。在本工作中,我们提出了一种针对EDIP的定制化边界与上下文知识蒸馏(Boundary and Context Knowledge Distillation, BCKD)方法,该方法促进了从大型精确教师模型到紧凑小型学生模型的有针对性KD。具体而言,边界蒸馏专注于从分层特征图中提取显式的对象级边界,以增强学生模型在边界区域的掩码质量。同时,上下文蒸馏利用自关系作为桥梁,将隐式的像素级上下文从教师模型转移到学生模型,确保目标区域具有强连通性。我们提出的方法专为EDIP任务设计,具有简单高效的特点。在五个代表性数据集上的语义分割、目标检测和实例分割任务上的理论分析和大量实验结果证明了BCKD的有效性,能够产生轮廓清晰的对象边界和光滑的连通区域。
引用
@article{arxiv.2401.13174,
title = {Towards Customized Knowledge Distillation for Chip-Level Dense Image Predictions},
author = {Dong Zhang and Pingcheng Dong and Long Chen and Kwang-Ting Cheng},
journal= {arXiv preprint arXiv:2401.13174},
year = {2025}
}
备注
under submission