Med-URWKV：基于 ImageNet 预训练的纯 RWKV 架构用于医学图像分割
摘要
医学图像分割是计算机辅助诊断和治疗中的基础关键技术。此前的方法大致可分为三类：基于卷积神经网络（CNN）的方法、基于 Transformer 的方法以及结合两者的混合架构。然而，它们各自存在局限性，例如 CNN 的感受野受限或 Transformer 的二次复杂度带来的计算开销。最近，Receptance Weighted Key Value（RWKV）模型作为多种视觉任务的有前景的替代方案出现，以线性计算复杂度提供了强大的长程建模能力。一些研究也将 RWKV 适配到医学图像分割任务中，取得了具有竞争力的性能。然而，大多数此类研究聚焦于对 Vision-RWKV（VRWKV）机制的修改并从头训练模型，而未探索利用预训练 VRWKV 模型用于医学图像分割任务的潜在优势。在本文中，我们提出 Med-URWKV，一种基于 U-Net 框架的纯 RWKV 架构，通过引入基于 ImageNet 的预训练来进一步探索 RWKV 在医学图像分割任务中的潜力。据我们所知，Med-URWKV 是医学领域中首个可直接复用大规模预训练 VRWKV 编码器的纯 RWKV 分割模型。在七个数据集上的实验结果表明，Med-URWKV 取得了与其它精心优化的从头训练 RWKV 模型相当甚至更优的分割性能。这验证了使用预训练 VRWKV 编码器提升模型性能的有效性。代码将公开发布。
引用
@article{arxiv.2506.10858,
title = {Med-URWKV: Pure RWKV With ImageNet Pre-training For Medical Image Segmentation},
author = {Zhenhuan Zhou},
journal= {arXiv preprint arXiv:2506.10858},
year = {2025}
}
备注
Preprint Draft, 5 pages. This paper will be updated with a formal version in the future, Copyright: College of Computer Science, Nankai University. All rights reserved