当 Swin Transformer 遇向 KANs：一种用于医学图像分割的改进变换器架构
计算机视觉与模式识别
2026-01-27 v2
摘要
医学图像分割对于准确诊断和治疗规划至关重要，但由于复杂的解剖结构和有限的标注训练数据，仍面临挑战。CNN 基于分割的方法在局部特征提取方面表现突出，但在建模长程依赖关系方面存在困难。相比之下，变换器能够更有效地捕获全局上下文，但本身具有数据需求高和计算成本大的特点。本文引入了 UKAST，这是一个类似 U-Net 的架构，将基于有理函数的Kolmogorov-Arnold 网络（KANs）集成到 Swin Transformer 编码器中。通过利用有理基函数和来自 Kolmogorov-Arnold Transformer（KAT）的 Group Rational KANs（GR-KANs），该架构解决了传统样条基函数 KANs 的效率问题，构建了一个更具表达力且数据效率更高的框架，计算复杂度（FLOPs）大幅降低，参数数量仅略增。UKAST 在四个多样化的 2D 和 3D 医学图像分割基准测试中实现了最先进的性能，持续超越了 CNN 和变换器基线方法。值得注意的是，在数据稀缺的情景下，它能够实现卓越的准确率，缓解了标准视觉变换器的数据饥饿局限。这些结果表明，KAN 增强型变换器有望推动数据高效的医学图像分割发展。代码已公开：https://github.com/nsapkota417/UKAST
引用
@article{arxiv.2511.04084,
title = {When Swin Transformer Meets KANs: An Improved Transformer Architecture for Medical Image Segmentation},
author = {Nishchal Sapkota and Haoyan Shi and Yejia Zhang and Xianshi Ma and Bofang Zheng and Fabian Vazquez and Pengfei Gu and Danny Z. Chen},
journal= {arXiv preprint arXiv:2511.04084},
year = {2026}
}
备注
This paper has been accepted for publication in the Proceedings of the IEEE International Symposium on Biomedical Imaging (ISBI) 2026