资源与数据高效的自我监督学习
图像与视频处理
2021-09-07 v1
摘要
我们研究了当无标签数据集规模较小，或无标签集内部的多样性无法带来更好表征时，在自然场景与医学影像数据集上通过对比式自我监督学习进行预训练的效用。我们采用一种两步方法，类似于以 ImageNet 初始化进行的监督训练，即将已在 ImageNet 数据集上预训练的网络再次预训练，以提升在感兴趣领域的下游任务性能。为提高收敛速度和整体性能，我们在第二步预训练前提出了权重缩放与滤波器选择方法。我们在三种流行的对比技术（即 SimCLR、SWaV 和 BYOL）上验证了该方法的效用。双重预训练的优势包括更优性能、更快收敛、能以更小批量大小和更小图像尺寸训练且性能差异可忽略。我们希望本工作通过使研究者无需大型集群或长训练时间即可微调模型，助力自我监督的普及化。
引用
@article{arxiv.2109.01721,
title = {Resource and data efficient self supervised learning},
author = {Ozan Ciga and Tony Xu and Anne L. Martel},
journal= {arXiv preprint arXiv:2109.01721},
year = {2021}
}