利用注意力机制进行基于图块的生物医学图像分类
计算机视觉与模式识别
2025-10-28 v2
摘要
生物医学图像分析对于推进医疗保健和医学研究至关重要。尽管传统的卷积神经网络经常被应用于该领域，但由于其依赖于固定大小的窗口和训练后不可变的滤波器权重，在捕捉像素级的复杂空间和时间关系方面面临局限性。这些限制阻碍了它们适应输入波动和理解广泛的长距离上下文信息的能力。为了克服这些挑战，提出了一种基于自注意力机制的新型架构作为传统 CNN 的替代方案。所提出的模型利用基于注意力的机制超越了 CNN 的局限性。我们策略的关键组成部分是结合非重叠（vanilla patching）和新颖的重叠移位图块技术，这增强了模型捕捉局部上下文的能力并提高了泛化能力。此外，我们引入了 Lancoz5 插值技术，该技术将可变图像尺寸适配到更高分辨率，从而促进对高分辨率生物医学图像的更好分析。我们的方法解决了基于注意力的视觉模型面临的关键挑战，包括归纳偏置、权重共享、感受野限制和高效数据处理。实验证据表明，所提出的模型在各种生物医学成像任务中的泛化有效性。结合先进数据增强方法的基于注意力的模型，展现出稳健的建模能力和优于现有方法的性能。S.P.T.s 的整合显著增强了模型捕捉局部上下文的能力，而 Lancoz5 插值技术确保了对高分辨率图像的高效处理。
引用
@article{arxiv.2404.00949,
title = {Harnessing The Power of Attention For Patch-Based Biomedical Image Classification},
author = {Gousia Habib and Shaima Qureshi and Malik ishfaq},
journal= {arXiv preprint arXiv:2404.00949},
year = {2025}
}