用于图像超分辨率的注意力中的注意力网络
计算机视觉与模式识别
2021-11-09 v3
摘要
在过去十年中，卷积神经网络使得单图像超分辨率（SISR）取得了显著进展。在SISR近期进展中，注意力机制对高性能SR模型至关重要。然而，注意力机制在SISR中为何及如何起作用仍不清楚。本工作中，我们尝试量化并可视化SISR中的注意力机制，并表明并非所有注意力模块都同等有益。随后我们提出注意力中的注意力网络（AN）以实现更高效且准确的SISR。具体而言，AN由一个非注意力分支和一个耦合注意力分支组成。我们提出动态注意力模块为这两个分支生成权重，以动态抑制不必要的注意力调整，其中权重根据输入特征自适应变化。这使得注意力模块能够专门处理有益样本而免受其他惩罚，从而以极少的参数开销大幅提升注意力网络的容量。实验结果表明，与同等规模的当前最优网络相比，我们的最终模型AN能实现更优的权衡性能。代码见 https://github.com/haoyuc/A2N。
关键词
引用
@article{arxiv.2104.09497,
title = {Attention in Attention Network for Image Super-Resolution},
author = {Haoyu Chen and Jinjin Gu and Zhi Zhang},
journal= {arXiv preprint arXiv:2104.09497},
year = {2021}
}
备注
11 pages, 10 figures. Codes are available at https://github.com/haoyuc/A2N