深入自监督学习用于医学图像分析：数据、模型与任务
计算机视觉与模式识别
2023-04-18 v2
摘要
自监督学习（SSL）借助海量无标注数据的先验，在各种医学影像任务中取得了卓越性能。然而，针对特定下游任务，在整个标准的“预训练—再微调”流程中，如何选择合适的代理任务及其实现细节仍缺乏指导手册。本工作中，我们聚焦于从四个现实且重要的问题挖掘 SSL 的潜力：（1）SSL 对不平衡数据集的影响，（2）网络架构，（3）上游任务对下游任务的适用性，以及（4）SSL 与深度学习常用策略的叠加效应。我们通过在对预测式、对比式、生成式及多 SSL 算法的大量实验，提供了大规模、深入且细粒度的研究。基于结果，我们揭示了若干见解。积极的一面是，SSL 主要通过提升少数类的性能来推进类不平衡学习，这引起了临床诊断的兴趣。遗憾的是，在某些情形下 SSL 收益甚微甚至为负，包括严重不平衡与相对平衡的数据分布，以及与常用训练策略的组合。我们引人深思的发现为医学场景下 SSL 的使用提供了实用指南，并凸显了开发通用代理任务以适应多样应用场景的必要性。
引用
@article{arxiv.2209.12157,
title = {Dive into Self-Supervised Learning for Medical Image Analysis: Data, Models and Tasks},
author = {Chuyan Zhang and Yun Gu},
journal= {arXiv preprint arXiv:2209.12157},
year = {2023}
}