基于对称Transformer的无监督图像配准网络
计算机视觉与模式识别
2022-04-29 v1
摘要
医学图像配准是医学图像分析中的基础且关键任务。随着深度学习的快速发展,卷积神经网络(CNN)已主导医学图像配准领域。由于CNN局部感受野的劣势,一些近期配准方法聚焦于使用Transformer进行非局部配准。然而,标准Transformer参数量巨大且计算复杂度高,导致Transformer只能应用于配准模型的底层。结果,仅在最低分辨率下可获得粗粒度信息,限制了Transformer在其模型中的贡献。为应对这些挑战,我们提出一种基于卷积的高效多头自注意力(CEMSA)块,其减少了传统Transformer的参数并捕获局部空间上下文信息以减少注意力机制中的语义歧义。基于所提CEMSA,我们提出一种新颖的基于对称Transformer的模型(SymTrans)。SymTrans分别在编码器和解码器中使用Transformer块以建模长程空间跨图像相关性。我们将SymTrans应用于位移场和微分同胚配准。实验结果表明,我们所提方法在图像配准中取得了最先进(SOTA)性能。我们的代码公开于\url{https://github.com/MingR-Ma/SymTrans}。
引用
@article{arxiv.2204.13575,
title = {Symmetric Transformer-based Network for Unsupervised Image Registration},
author = {Mingrui Ma and Lei Song and Yuanbo Xu and Guixia Liu},
journal= {arXiv preprint arXiv:2204.13575},
year = {2022}
}