面向语义分割的结构与统计纹理知识蒸馏
计算机视觉与模式识别
2025-03-18 v3
摘要
现有面向语义分割的知识蒸馏工作主要关注将教师网络的高层上下文知识迁移至学生网络。然而，低层纹理知识对于刻画局部结构模式与全局统计特性（如边界、平滑度、规则性与颜色对比）同样至关重要，而这些可能无法由高层深度特征很好地表征。本文旨在充分利用结构性与统计性纹理知识，提出一种新颖的面向语义分割的结构与统计纹理知识蒸馏（SSTKD）框架。具体而言，对于结构纹理知识，我们引入轮廓波分解模块（CDM），通过迭代拉普拉斯金字塔与方向滤波器组分解低层特征以挖掘结构纹理知识。对于统计知识，我们提出去噪纹理强度均衡模块（DTIEM），通过启发式迭代量化与去噪操作自适应提取并增强统计纹理知识。最后，各项知识学习均由独立损失函数监督，迫使学生在更广阔视角下更好地模仿教师。实验表明，所提方法在Cityscapes、Pascal VOC 2012与ADE20K数据集上取得了最先进的性能。
引用
@article{arxiv.2305.03944,
title = {Structural and Statistical Texture Knowledge Distillation for Semantic Segmentation},
author = {Deyi Ji and Haoran Wang and Mingyuan Tao and Jianqiang Huang and Xian-Sheng Hua and Hongtao Lu},
journal= {arXiv preprint arXiv:2305.03944},
year = {2025}
}
备注
Accepted to CVPR 2022. Extended TPAMI 2025 Journal Version: arXiv:2503.08043