用于单图像超分辨率的高相似度通注意力
计算机视觉与模式识别
2023-05-26 v1
摘要
非局部注意力(NLA)领域的近期进展重新激发了基于自相似性的单图像超分辨率(SISR)的研究兴趣。研究者通常使用NLA来挖掘SISR中的非局部自相似性(NSS)并取得令人满意的重建结果。然而,标准NLA的重建性能与随机选择区域的NLA相近这一惊人现象,激发了我们重新审视NLA的兴趣。本文首先从多个角度分析了标准NLA的注意力图,发现所得概率分布对每个局部特征始终具有全支撑,这意味着将数值分配给无关非局部特征存在统计浪费,尤其对于需要以大量冗余非局部特征建模长程依赖的SISR而言。基于这些发现,我们引入了一种简洁而有效的软阈值操作以获得高相似度通注意力(HSPA),有助于生成更紧凑且可解释的分布。此外,我们推导了软阈值操作的一些关键性质,使得HSPA能够以端到端方式训练。HSPA可作为高效通用构建块集成到现有深度SISR模型中。另外,为证明HSPA的有效性,我们在简单主干中集成若干HSPA构建了深度高相似度通注意力网络(HSPAN)。大量实验结果表明,HSPAN在定量与定性评估上均优于当前最优方法。
引用
@article{arxiv.2305.15768,
title = {High-Similarity-Pass Attention for Single Image Super-Resolution},
author = {Jian-Nan Su and Min Gan and Guang-Yong Chen and Wenzhong Guo and C. L. Philip Chen},
journal= {arXiv preprint arXiv:2305.15768},
year = {2023}
}
备注
13 pages, 12 figures. arXiv admin note: text overlap with arXiv:2212.01057