LKFormer: 用于红外图像超分辨率的大核Transformer
图像与视频处理
2024-01-25 v2 计算机视觉与模式识别
摘要
鉴于红外技术在各个领域的广泛应用，深度学习领域中红外图像超分辨率技术的研究日益受到重视。尽管当前基于Transformer的方法在图像超分辨率任务中取得了令人印象深刻的结果，但它们依赖于Transformer架构固有的自注意力机制，导致图像被视作一维序列，从而忽略了其固有的二维结构。此外，红外图像具有均匀的像素分布和有限的梯度范围，给模型捕获有效特征信息带来了挑战。因此，我们提出了一种强大的Transformer模型，称为大核Transformer（LKFormer），以解决这一问题。具体而言，我们设计了一个具有线性复杂度的大核残差注意力（LKRA）模块。该模块主要采用大核深度可分离卷积来执行非局部特征建模，从而替代标准的自注意力层。此外，我们设计了一种新颖的前馈网络结构，称为门控像素前馈网络（GPFN），以增强LKFormer管理网络内信息流的能力。全面的实验结果表明，我们的方法以更少的参数超越了最先进的技术，并取得了显著更优的性能。源代码将在https://github.com/sad192/large-kernel-Transformer提供。
引用
@article{arxiv.2401.11859,
title = {LKFormer: Large Kernel Transformer for Infrared Image Super-Resolution},
author = {Feiwei Qin and Kang Yan and Changmiao Wang and Ruiquan Ge and Yong Peng and Kai Zhang},
journal= {arXiv preprint arXiv:2401.11859},
year = {2024}
}
备注
14 pages, 4 figures, accept Multimedia Tools and Applications