中文

WeakSupCon:用于编码器预训练的弱监督对比学习

计算机视觉与模式识别 2025-08-01 v2

摘要

弱监督多实例学习(MIL)是一项具有挑战性的任务,因为仅提供包级标签,而每个包通常包含多个实例。该主题在组织病理学图像分析中得到了广泛研究,其中标签通常仅在全切片图像(WSI)级别可用,而每个WSI可被划分为数千个小图像块用于训练。主导的MIL方法侧重于特征聚合,并将固定的图像块特征作为输入。然而,MIL设置中的弱监督特征表示学习一直被忽视。那些特征过去由未利用弱标签的自监督学习方法生成,或由在其他大型数据集上预训练的基础编码器生成。在本文中,我们提出了一种名为弱监督对比学习(Weakly Supervised Contrastive Learning, WeakSupCon)的新型弱监督特征表示学习方法,该方法利用包级标签。在我们的方法中,我们采用多任务学习,并为具有不同包标签的样本定义不同的对比损失。实验表明,使用WeakSupCon在有限计算资源下生成的特征显著提升了MIL分类性能,优于自监督方法,在三个数据集上均如此。我们的WeakSupCon代码可在github.com/BzhangURU/Paper_WeakSupCon获取。

关键词

引用

@article{arxiv.2503.04165,
  title  = {WeakSupCon: Weakly Supervised Contrastive Learning for Encoder Pre-training},
  author = {Bodong Zhang and Hamid Manoochehri and Xiwen Li and Beatrice S. Knudsen and Tolga Tasdizen},
  journal= {arXiv preprint arXiv:2503.04165},
  year   = {2025}
}

备注

Medical Image Computing and Computer Assisted Intervention (MICCAI) 2025 workshop on Efficient Medical AI