面向视网膜眼底图像的半弱监督对比表示学习
计算机视觉与模式识别
2021-08-05 v1 机器学习
摘要
我们探索弱标签在学习可迁移医学图像表示中的价值。与人工标注数据集相比,弱标签或不精确标签可以极低成本大量获取,并能为数据饥渴的模型(如深度神经网络)提供有用的训练信号。我们考虑以伪标签形式出现的弱标签,并提出一种利用半弱标注图像进行表示学习的半弱监督对比学习(SWCL)框架。具体而言,我们训练一个半监督模型,将标签从包含多样图像级标注的小型数据集传播至大型无标注数据集。利用传播得到的标签,我们生成用于预训练的块级数据集,并构建多标签对比学习目标以捕获每个块中编码的位置特定特征。我们在七个公开视网膜眼底数据集上实证验证了SWCL的迁移学习性能,涵盖三项疾病分类任务与两项解剖结构分割任务。实验结果表明,在极低数据情形下,基于改进架构的大规模ImageNet预训练仍是非常强的基线,且近期提出的自监督方法在分割任务中表现不佳,可能源于其所施加的强不变性约束。我们的方法超越了所有先前的自监督方法与标准交叉熵训练,同时缩小了与ImageNet预训练的差距。
引用
@article{arxiv.2108.02122,
title = {Semi-weakly Supervised Contrastive Representation Learning for Retinal Fundus Images},
author = {Boon Peng Yap and Beng Koon Ng},
journal= {arXiv preprint arXiv:2108.02122},
year = {2021}
}