有限标注下的分割学习:MRI 中基于回归与对比损失的自监督预训练
计算机视觉与模式识别
2022-05-27 v1 人工智能
机器学习
图像与视频处理
摘要
为深度学习(DL)模型的有监督训练获取大规模手动标注数据集颇具挑战。与有标签数据相比大量无标签数据的存在,促使我们使用自监督预训练来初始化 DL 模型以用于后续分割任务。本工作中,我们考虑两种预训练方法来驱动 DL 模型学习不同表示:a) 利用图像内空间依赖关系的回归损失;b) 利用图像对间语义相似性的对比损失。预训练技术的效果在两个使用磁共振(MR)图像的下游分割应用中评估:a) 腹部 T2 加权 MR 图像中的肝脏分割;b) 前列腺 T2 加权 MR 图像中的前列腺分割。我们观察到,使用自监督预训练的 DL 模型可用更少标注数据集微调达到可比性能。此外,我们还观察到,使用基于对比损失的预训练初始化 DL 模型优于回归损失。
引用
@article{arxiv.2205.13109,
title = {Learning to segment with limited annotations: Self-supervised pretraining with regression and contrastive loss in MRI},
author = {Lavanya Umapathy and Zhiyang Fu and Rohit Philip and Diego Martin and Maria Altbach and Ali Bilgin},
journal= {arXiv preprint arXiv:2205.13109},
year = {2022}
}
备注
Presented at the Annual Conference of International Society for Magnetic Resonance in Medicine, London, UK. May 2022