为基于深度学习的医学图像分割选择最佳优化器
图像与视频处理
2023-02-07 v1 计算机视觉与模式识别
机器学习
摘要
本工作的目标是在心脏图像分割背景下确定深度学习的最佳优化器，并就如何设计具有高效优化策略的分割网络提供指导。自适应学习通过从一个较大的学习率（LR）开始并逐渐减小它，有助于快速收敛。动量优化器在加速方案类别中，对于快速优化神经网络特别有效。通过揭示这两类算法（学习率和动量优化器，或简称动量率（MR））之间的潜在相互作用，本文在单一设置中探索了SGD算法的两种变体。我们建议使用循环学习作为基础优化器，并整合学习率和动量率的最优值。我们研究了在从MRI和CT扫描中分割心脏结构这一重要医学图像分割问题下，学习率与动量率的关系。我们使用MICCAI 2017年ACDC挑战赛的心脏成像数据集以及四种在心脏图像分割问题上表现成功的不同架构进行了实验。我们的综合评估表明，在单目标和多目标分割设置下，所提出的优化器在计算成本相似或更低的情况下，取得了比深度学习文献中其他优化器更好的结果（Dice指标提升超过2%）。我们假设加速优化方法与自适应优化方法的结合能对医学图像分割性能产生显著影响。为此，我们提出了一种新的循环优化方法（\textit{CLMR}）来解决基于深度学习的医学图像分割中的效率和准确性问题。与自适应优化器相比，所提策略展现了更好的泛化能力。
引用
@article{arxiv.2302.02289,
title = {Selecting the Best Optimizers for Deep Learning based Medical Image Segmentation},
author = {Aliasghar Mortazi and Vedat Cicek and Elif Keles and Ulas Bagci},
journal= {arXiv preprint arXiv:2302.02289},
year = {2023}
}