学习具有动态双重自注意力的图像去雨Transformer网络
计算机视觉与模式识别
2023-08-16 v1
摘要
近来，由于Transformer架构在建模非局部信息方面的优势，其被引入单幅图像去雨任务。然而，现有方法倾向于基于稠密自注意力策略整合全局特征，因其往往使用查询与键之间所有token的相似度。实际上，该策略导致在特征聚合过程中忽略最相关信息，并被无关表示引入模糊效应。为此，本文提出一种有效的具有动态双重自注意力（DDSA）的图像去雨Transformer，其结合稠密与稀疏注意力策略以更好地促进清晰图像重建。具体而言，我们仅基于top-k近似计算选取最有用的相似度值以实现稀疏注意力。此外，我们还开发了新颖的空间增强前馈网络（SEFN），以进一步获得更准确的表示从而实现高质量去雨结果。在基准数据集上的大量实验证明了我们所提方法的有效性。
引用
@article{arxiv.2308.07781,
title = {Learning Image Deraining Transformer Network with Dynamic Dual Self-Attention},
author = {Zhentao Fan and Hongming Chen and Yufeng Li},
journal= {arXiv preprint arXiv:2308.07781},
year = {2023}
}
备注
6 pages, 5 figures