中文

基于Transformer的遥感图像变化检测

计算机视觉与模式识别 2021-07-13 v3

摘要

现代变化检测(CD)凭借深度卷积的强大判别能力取得了显著成功。然而,由于场景中物体的复杂性,高分辨率遥感CD仍具挑战性。具有相同语义概念的物体在不同时间与空间位置可能呈现不同的光谱特征。多数近期采用纯卷积的CD流程仍难以关联时空中的长程概念。非局部自注意力方法通过建模像素间密集关系展现出良好性能,但计算效率低下。在此,我们提出一种双时相图像Transformer(BIT),以高效且有效地在时空域内建模上下文。我们的直觉是,感兴趣变化的深层概念可由少量视觉词(即语义令牌)表示。为此,我们将双时相图像表达为少量令牌,并使用Transformer编码器在紧凑的基于令牌的时空中建模上下文。随后将学习到的富含上下文的令牌通过Transformer解码器反馈至像素空间以精炼原始特征。我们将BIT纳入基于深度特征差分的CD框架中。在三个CD数据集上的大量实验证明了所提方法的有效性与高效性。值得注意的是,我们基于BIT的模型以仅三分之一的计算成本与模型参数显著优于纯卷积基线。基于朴素骨干网络(ResNet18)且无需复杂结构(如FPN、UNet),我们的模型超越了数种最先进的CD方法,包括在效率与精度上优于四种近期基于注意力的方法。我们的代码可在 https://github.com/justchenhao/BIT_CD 获取。

关键词

引用

@article{arxiv.2103.00208,
  title  = {Remote Sensing Image Change Detection with Transformers},
  author = {Hao Chen and Zipeng Qi and Zhenwei Shi},
  journal= {arXiv preprint arXiv:2103.00208},
  year   = {2021}
}

备注

14 pages, 8 figures. Accepted article by IEEE TGRS