肝脏分割中的调度技术：ReduceLRonPlateau 与 OneCycleLR 对比
计算机视觉与模式识别
2022-02-15 v1 机器学习
图像与视频处理
摘要
机器学习与计算机视觉技术已影响诸多领域，包括生物医学领域。本文旨在研究调度器在训练过程中操控学习率（LR）这一重要概念，针对肝脏分割任务，聚焦于新提出的 OneCycleLR 与 ReduceLRonPlateau 的对比。使用由 Medical Segmentation Decathlon Challenge 组织者于 2018 年发布、称为任务 8 肝血管（MSDC-T8）的数据集进行测试与验证。所报告结果具有相同的最大轮数（75），且为 5 折交叉验证的平均值，表明相较于 OneCycleLR，ReduceLRonPlateau 收敛更快，同时在验证集上保持相似甚至更优的损失分数。OneCycleLR 出现峰值 LR 的轮次或许应设早一些，以便观察到超收敛特性。此外，总体结果优于发布该数据集肝脏掩膜的研究人员所取得的当前最优结果。总之，两种调度器均适用于医学分割挑战，尤其是 MSDC-T8 数据集，并可放心用于以最少轮数快速收敛验证损失。
引用
@article{arxiv.2202.06373,
title = {Scheduling Techniques for Liver Segmentation: ReduceLRonPlateau Vs OneCycleLR},
author = {Ayman Al-Kababji and Faycal Bensaali and Sarada Prasad Dakua},
journal= {arXiv preprint arXiv:2202.06373},
year = {2022}
}
备注
8 pages, 4 figures, 1 table, currently submitted The 2nd International Conference on Intelligent Systems and Patterns Recognition (ISPR'2022)