GRAD-Former：面向遥感变化检测的门控鲁棒注意力微分变换器
计算机视觉与模式识别
2026-03-03 v1 人工智能
摘要
遥感变化检测旨在识别卫星图像在不同时间捕获之间的语义差异。虽然深度学习显著推动了该领域发展，但基于卷积神经网络（CNN）、变换器和选择性状态空间模型（SSMs）的现有方法在精确描绘变化区域方面仍面临挑战。特别是，传统基于变换器的方法在应用于非常高分辨率（VHR）卫星图像时会产生二次计算复杂度，往往在数据有限的情况下表现不佳，导致未充分利用 VHR 图像中丰富的空间信息。我们提出了 GRAD-Former，一种新型框架，通过降低模型规模来增强上下文理解同时保持效率。该框架由包含自适应特征相关性与细化（AFRAR）模块的新型编码器、融合模块和解码器块组成。AFRAR 通过两个提出的组件集成全局-局部上下文感知：选择性嵌入放大（SEA）模块和全局-局部特征细化（GLFR）模块。SEA 和 GLFR 分别利用门控机制和微分注意力，这些机制生成多个 softmax 堆来捕获重要特征，同时最小化捕获无关特征。在三个具有挑战性的 CD 数据集（LEVIR-CD、CDD、DSIFN-CD）上的多个实验表明，GRAD-Former 在所有指标和数据集上均优于现有方法，同时使用更少的参数。我们的框架为遥感变化检测建立了新的性能基准。我们的代码将在 https://github.com/Ujjwal238/GRAD-Former 发布。
关键词
引用
@article{arxiv.2603.01161,
title = {GRAD-Former: Gated Robust Attention-based Differential Transformer for Change Detection},
author = {Durgesh Ameta and Ujjwal Mishra and Praful Hambarde and Amit Shukla},
journal= {arXiv preprint arXiv:2603.01161},
year = {2026}
}
备注
This work has been submitted to the IEEE for possible publication