高效图像超分辨率的混合注意力可分离网络
图像与视频处理
2024-10-15 v1 计算机视觉与模式识别
摘要
最近，由于硬件资源有限，轻量级单图像超分辨率 (SISR) 方法获得了广泛关注并取得了令人印象的性能。这些方法表明，在每个模块后采用残差特征蒸馏是提高性能的有效方式。然而，我们发现，在每个模块后使用残差连接会增加模型的存储和计算成本。因此，为简化网络结构并学习更高层次的特征和特征之间的关系，我们使用深度可分离卷积、全连接层和激活函数作为基本特征提取模块。这显著减少了计算负担和参数数量，同时保持了强大的特征提取能力。为了进一步提升模型性能，我们提出了混合注意力可分离模块 (HASB)，将通道注意力和空间注意力结合，发挥其互补优势。此外，我们使用深度可分离卷积代替标准卷积，显著降低了计算负担和参数数量，同时保持了强大的特征提取能力。在训练阶段，我们还采用温度启动再训练策略进一步发挥模型潜力。大量实验表明，我们的方法有效。我们的技术在 smaller 模型大小和降低计算复杂度方面表现出色，而性能则未受到影响。代码可在 https://github.com/nathan66666/HASN.git 获取。
引用
@article{arxiv.2410.09844,
title = {HASN: Hybrid Attention Separable Network for Efficient Image Super-resolution},
author = {Weifeng Cao and Xiaoyan Lei and Jun Shi and Wanyong Liang and Jie Liu and Zongfei Bai},
journal= {arXiv preprint arXiv:2410.09844},
year = {2024}
}
备注
Accepted by Visual Computer