DVMSR：基于蒸馏的视觉Mamba高效超分辨率网络

Xiaoyan Lei; Wenlong Zhang; Weifeng Cao

DVMSR：基于蒸馏的视觉Mamba高效超分辨率网络

图像与视频处理 2024-05-14 v2 计算机视觉与模式识别机器学习

作者: Xiaoyan Lei , Wenlong Zhang , Weifeng Cao

摘要

高效图像超分辨率（SR）旨在通过最小化计算复杂度和网络参数来加速SR网络推理，同时保持性能。现有基于卷积神经网络的领先高效图像SR方法尚有局限。本文提出DVMSR（Distillated Vision Mamba for Efficient Super-Resolution），一种新型轻量级图像SR网络，融合视觉Mamba（Vision Mamba）与蒸馏策略。DVMSR网络由三部分组成：特征提取卷积层、多个堆叠残差状态空间块（RSSB）以及重建模块。具体而言，深度特征提取模块由若干残差状态空间块（RSSB）构成，每个RSSB包含多个视觉Mamba模块（ViMM）及残差连接。为在保持性能的同时实现效率提升，我们对视觉Mamba网络采用蒸馏策略。具体做法是利用教师网络的丰富表征知识作为轻量学生网络输出的额外监督。大量实验表明，DVMSR在模型参数更少的前提下，相较于领先的高效SR方法，能够在保持PSNR和SSIM性能的同时取得更优表现。源码已公开于https://github.com/nathan66666/DVMSR.git

关键词

图像超分辨率视觉Mamba 模型蒸馏高效网络残差状态空间块

引用

@article{arxiv.2405.03008,
  title  = {DVMSR: Distillated Vision Mamba for Efficient Super-Resolution},
  author = {Xiaoyan Lei and Wenlong Zhang and Weifeng Cao},
  journal= {arXiv preprint arXiv:2405.03008},
  year   = {2024}
}

备注

8 pages, 8 figures

DVMSR：基于蒸馏的视觉Mamba高效超分辨率网络

摘要

关键词

引用

备注

相关论文