用于语义分割的注意力引导特征蒸馏
计算机视觉与模式识别
2025-03-25 v3
摘要
深度学习模型在各种计算机视觉任务中取得了显著成果。然而，由于这些模型参数量巨大，将其部署在实时场景中是一个关键挑战，特别是在语义分割等密集预测任务中。知识蒸馏已成为解决这一问题的成功技术，它将知识从庞大的模型（教师）转移到较轻量的模型（学生）。与现有常用于从教师向学生蒸馏知识的复杂方法相比，本文展示了一种简单而强大的方法的有效性，即利用精炼的特征图来转移注意力。所提出的方法已被证明能有效蒸馏丰富信息，在作为密集预测任务的语义分割中优于现有方法。所提出的注意力引导特征蒸馏 (AttnFD) 方法采用了卷积块注意力模块 (CBAM)，通过同时考虑通道特定信息和空间信息内容来精炼特征图。仅需在教师和学生的精炼特征图之间使用均方误差 (MSE) 损失函数，AttnFD 便在语义分割中展现出卓越性能，在 PascalVoc 2012、Cityscapes、COCO 和 CamVid 数据集上提升了学生网络的平均交并比 (mIoU)，达到了最先进 (SOTA) 的结果。
引用
@article{arxiv.2403.05451,
title = {Attention-guided Feature Distillation for Semantic Segmentation},
author = {Amir M. Mansourian and Arya Jalali and Rozhan Ahmadi and Shohreh Kasaei},
journal= {arXiv preprint arXiv:2403.05451},
year = {2025}
}
备注
26 pages, 10 figures, and 6 tables