TransUKAN:用于增强医学图像分割的计算高效混合 KAN-Transformer 架构
图像与视频处理
2024-09-26 v2 计算机视觉与模式识别
摘要
U-Net 是目前最广泛使用的医学图像分割架构。凭借其独特的编码器-解码器结构和跳跃连接,U-Net 能够有效提取输入图像中的特征以分割目标区域。常用的 U-Net 通常基于卷积运算或 Transformer,分别建模局部或全局信息以完成医学图像分析任务。然而,这些方法使用的卷积层、全连接层和注意力机制会引入大量参数,通常需要堆叠网络层来建模复杂的非线性关系,从而影响训练过程。为此,我们提出了 TransUKAN。具体而言,我们改进了 KAN 以降低内存使用和计算负荷。基于此,我们进一步探索了 KAN、Transformer 和 U-Net 结构的有效组合。该方法仅通过引入少量额外参数,即可增强模型捕获非线性关系的能力,弥补 Transformer 在局部信息提取方面的不足。我们在多个医学图像分割任务上对 TransUKAN 进行了验证。实验结果表明,TransUKAN 以显著减少的参数量实现了优异的性能。代码将在 https://github.com/wuyanlin-wyl/TransUKAN 上提供。
关键词
引用
@article{arxiv.2409.14676,
title = {TransUKAN:Computing-Efficient Hybrid KAN-Transformer for Enhanced Medical Image Segmentation},
author = {Yanlin Wu and Tao Li and Zhihong Wang and Hong Kang and Along He},
journal= {arXiv preprint arXiv:2409.14676},
year = {2024}
}