克服医学图像分割自监督对比学习中的维度坍塌
计算机视觉与模式识别
2024-02-28 v2
摘要
当标注数据量有限时，自监督学习 (SSL) 方法取得了巨大成功。在 SSL 中，模型通过求解前置任务来学习鲁棒的特征表示。对比学习就是这样一个前置任务，它涉及形成相似和不相似输入样本的对，引导模型区分它们。在这项工作中，我们研究了对比学习在医学图像分析领域的应用。我们的发现表明，MoCo v2 作为一种最先进的对比学习方法，在应用于医学图像时遇到了维度坍塌。这归因于医学图像之间存在高度的图像间相似性。为了解决这个问题，我们提出了两个关键贡献：局部特征学习和特征去相关。局部特征学习提高了模型关注图像局部区域的能力，而特征去相关则消除了特征之间的线性依赖。我们的实验结果表明，在线性评估和全微调设置下，我们的贡献显著增强了模型在医学分割下游任务中的性能。这项工作说明了将 SSL 技术有效适应医学成像任务特征的重要性。源代码将公开于：https://github.com/CAMMA-public/med-moco
引用
@article{arxiv.2402.14611,
title = {Overcoming Dimensional Collapse in Self-supervised Contrastive Learning for Medical Image Segmentation},
author = {Jamshid Hassanpour and Vinkle Srivastav and Didier Mutter and Nicolas Padoy},
journal= {arXiv preprint arXiv:2402.14611},
year = {2024}
}
备注
Accepted at at ISBI-2024 (https://biomedicalimaging.org/2024/). 4 pages, 2 figures, 2 tables