BATFormer：面向高效医学图像分割的边界感知轻量级Transformer
摘要
目的：Transformer 诞生于弥补 CNN 感受野不足的缺陷，近来引起了爆发式的关注。然而，全局表征学习令人望而生畏的计算复杂度，以及僵化的窗口划分，阻碍其在医学图像分割中的部署。本工作旨在解决 Transformer 中上述两个问题，以实现更好的医学图像分割。方法：我们提出一种边界感知轻量级 Transformer（BATFormer），能够以更低的计算复杂度构建跨尺度全局交互，并在熵的指导下灵活生成窗口。具体而言，为充分挖掘 Transformer 在建立长程依赖方面的优势，引入跨尺度全局 Transformer（CGT）模块，联合利用多个小尺度特征图以更低计算复杂度获取更丰富的全局特征。鉴于形状建模在医学图像分割中的重要性，构建了边界感知局部 Transformer（BLT）模块。不同于原始 Transformer 中会产生边界畸变的僵化窗口划分，BLT 在熵的指导下采用自适应窗口划分方案，既降低计算复杂度又保持形状。结果：在 ACDC 数据集上，BATFormer 在平均、右心室、心肌和左心室的 Dice 系数分别取得 92.84%、91.97%、90.26% 和 96.30% 的最佳性能；在 ISIC 2018 数据集上，Dice、IoU 和 ACC 分别取得 90.76%、84.64% 和 96.76% 的最佳性能。更重要的是，与最先进方法相比，BATFormer 所需模型参数量最少且计算复杂度最低。结论与意义：我们的结果证明了为高效且更好的医学图像分割开发定制化 Transformer 的必要性。
引用
@article{arxiv.2206.14409,
title = {BATFormer: Towards Boundary-Aware Lightweight Transformer for Efficient Medical Image Segmentation},
author = {Xian Lin and Li Yu and Kwang-Ting Cheng and Zengqiang Yan},
journal= {arXiv preprint arXiv:2206.14409},
year = {2023}
}
备注
Accepted by IEEE Journal of Biomedical and Health Informatics The source code is publicly available at https://github.com/xianlin7/BATFormer