GLIMS: 用于体积语义分割的注意力引导轻量级多尺度混合网络
计算机视觉与模式识别
2024-05-03 v1 人工智能
摘要
卷积神经网络已广泛应用于医学图像分割任务,并展现出有前景的性能。然而,卷积架构中固有的归纳偏置限制了其对长程依赖和空间相关性进行建模的能力。尽管近期基于Transformer的架构通过利用自注意力机制来编码长程依赖和学习表达性表示,从而解决了这些局限性,但它们通常难以提取低级特征,并且高度依赖于数据的可用性。这促使我们开发了GLIMS,一种数据高效的注意力引导混合体积分割网络。GLIMS利用扩张特征聚合器卷积块来高效捕获局部-全局特征相关性。此外,集成的基于Swin Transformer的瓶颈桥接了局部和全局特征,以提高模型的鲁棒性。另外,GLIMS通过通道和空间注意力块采用注意力引导的分割方法,以定位用于精细边界分割的表达性特征。在胶质母细胞瘤和多器官CT分割任务上的定量和定性结果证明了GLIMS在复杂性和准确性方面的有效性。GLIMS在BraTS2021和BTCV数据集上表现出色,超越了Swin UNETR的性能。值得注意的是,GLIMS以显著减少的可训练参数实现了这一高性能。具体来说,GLIMS有47.16M个可训练参数和72.30G FLOPs,而Swin UNETR有61.98M个可训练参数和394.84G FLOPs。代码公开于https://github.com/yaziciz/GLIMS。
引用
@article{arxiv.2404.17854,
title = {GLIMS: Attention-Guided Lightweight Multi-Scale Hybrid Network for Volumetric Semantic Segmentation},
author = {Ziya Ata Yazıcı and İlkay Öksüz and Hazım Kemal Ekenel},
journal= {arXiv preprint arXiv:2404.17854},
year = {2024}
}
备注
The article was accepted for publication in the Image and Vision Computing journal