高效单图像超分辨率的熵注意力与感受野增强网络
图像与视频处理
2024-08-09 v1 计算机视觉与模式识别
摘要
基于Transformer的单图像超分辨率(SISR)深度模型近年来显著提升了轻量级SISR任务的性能。然而，由于多头自注意力(MSA)的复杂计算，它们往往面临沉重的计算负担和缓慢的推理速度，严重阻碍了其实际应用和部署。在本工作中，我们提出了一种高效的SR模型来缓解模型效率与SR性能之间的困境，该模型被称为熵注意力与感受野增强网络(EARFA)，由一种新颖的熵注意力(EA)和一种移位大核注意力(SLKA)组成。从信息论的角度来看，EA在Gaussian分布条件下增加中间特征的熵，为后续推理提供更丰富的信息输入。另一方面，SLKA通过通道移位的辅助扩展了SR模型的感受野，这也有利于增强层次化特征的多样性。由于EA和SLKA的实现不涉及复杂计算（如广泛的矩阵乘法），所提出的方法可以在保持更好SR性能的同时实现比基于Transformer的SR模型更快的非线性推理。大量实验表明，所提出的模型可以在显著降低模型推理延迟的同时，实现与其他先进模型相当的SR性能。
引用
@article{arxiv.2408.04158,
title = {Efficient Single Image Super-Resolution with Entropy Attention and Receptive Field Augmentation},
author = {Xiaole Zhao and Linze Li and Chengxing Xie and Xiaoming Zhang and Ting Jiang and Wenjie Lin and Shuaicheng Liu and Tianrui Li},
journal= {arXiv preprint arXiv:2408.04158},
year = {2024}
}
备注
Accepted to ACM MM 2024