基于全局与局部注意力的 hyperspectral 图像变化检测 Transformer
图像与视频处理
2024-11-22 v1
摘要
最近，基于 Transformer 的 hyperspectral 图像 (HSI) 更改检测方法显示出显著的性能。然而，现有 Transformer 中的注意力机制在局部特征表示方面存在局限性。为解决此问题，我们提出了一种基于全局与局部注意力的 Transformer (GLAFormer)，其包含一种全局与局部注意力模块 (GLAM)，用于组合高频和低频信号。此外，我们引入一种称为交叉门控前馈网络 (CGFN) 的交叉门控机制，以强调显著特征并抑制噪声干扰。具体而言，GLAM 将注意力头分为全局注意力组件和局部注意力组件，以捕获全面的空间-光谱特征。全局注意力组件采用对下采样特征图的全局注意力，以捕获低频信息；而局部注意力组件则使用基于非重叠窗口的局部注意力，以关注高频细节。CGFN 通过并行路径中的卷积和交叉门控机制来增强特征表示。我们在三个 HSI 数据集上评估了所提出的 GLAFormer。结果表明，其在基于最先进 HSI 更改检测方法的基准上表现出优势。GLAFormer 的源代码可在 \url{https://github.com/summitgao/GLAFormer} 获取。
引用
@article{arxiv.2411.14109,
title = {Global and Local Attention-Based Transformer for Hyperspectral Image Change Detection},
author = {Ziyi Wang and Feng Gao and Junyu Dong and Qian Du},
journal= {arXiv preprint arXiv:2411.14109},
year = {2024}
}
备注
IEEE GRSL 2024