遥感中的 Transformer：综述

过去十年中，基于深度学习的算法在遥感图像分析的不同领域获得了极大关注。近来，最初引入于自然语言处理的基于 transformer 的架构已渗入计算机视觉领域，其中自注意力机制被用作流行卷积算子的替代以捕获长程依赖。受计算机视觉近期进展的启发，遥感界也见证了对视觉 transformer 在多种任务中不断增加的探索。尽管若干综述已普遍关注计算机视觉中的 transformer，但据我们所知，我们是首个呈现基于 transformer 在遥感中近期进展的系统综述。我们的综述涵盖了子领域遥感问题中超过 60 种近期基于 transformer 的方法：甚高分辨率（VHR）、高光谱（HSI）与合成孔径雷达（SAR）影像。我们通过讨论遥感中 transformer 的不同挑战与开放问题来结束本综述。此外，我们打算在 https://github.com/VIROBO-15/Transformer-in-Remote-Sensing 频繁更新并维护最新的遥感 transformer 论文及其相应代码。