面向紧凑解码器的轻量级U型网络:运用神经记忆常微分方程
计算机视觉与模式识别
2024-12-10 v1 人工智能
图像与视频处理
摘要
近年来,先进的U型网络在医学图像分割任务中表现突出。然而,过多的参数、高计算复杂度以及推理速度慢的缺点,构成了在计算资源有限的场景中实际应用的挑战。现有轻量级U型网络虽然缓解了部分问题,但往往采用预设结构,由不可分割的模块组成,限制了其应用场景。本文通过采用不同的离散化方法,运用神经记忆常微分方程(neural memory Ordinary Differential Equations, nmODEs)提出三种即插即用解码器。这些解码器通过处理跳跃连接的信息并对上采样路径执行数值运算,在不同抽象层次上整合特征。通过在PH2、ISIC2017和ISIC2018数据集上的实验,我们将这些解码器嵌入不同的U型网络,证明其在显著降低参数数量和FLOPs的同时,能够保持性能。总体而言,本文提出的离散化nmODE解码器能够将参数数量降低约20%~50%,FLOPs降低最高可达74%,且具有适用于所有U型网络的潜力。我们的代码已公开于https://github.com/nayutayuki/Lightweight-nmODE-Decoders-For-U-like-networks。
引用
@article{arxiv.2412.06262,
title = {A Lightweight U-like Network Utilizing Neural Memory Ordinary Differential Equations for Slimming the Decoder},
author = {Quansong He and Xiaojun Yao and Jun Wu and Zhang Yi and Tao He},
journal= {arXiv preprint arXiv:2412.06262},
year = {2024}
}