面向重度图像增强的定向自监督学习
计算机视觉与模式识别
2021-11-30 v2
摘要
尽管存在大量增强方法族，但仅有少数精心挑选的鲁棒增强策略有益于自监督图像表示学习。本文提出一种定向自监督学习范式（DSSL），其兼容显著更多的增强方式。具体而言，我们在标准增强得到的轻度增强视图之后施加重度增强策略，以生成更难视图（HV）。HV 通常比轻度增强标准视图（SV）偏离原始图像更大。与以往平等配对所有增强视图以对称最大化其相似度的方法不同，DSSL 将同一实例的增强视图视为偏序集（方向为 SVSV、SVHV），进而配备一个尊重视图间派生关系的定向目标函数。DSSL 可用几行代码轻松实现，并对包括 SimCLR、SimSiam、BYOL 在内的流行自监督学习框架具有高度灵活性。在 CIFAR 与 ImageNet 上的大量实验结果表明，DSSL 能稳定提升多种基线，并兼容更广范围的增强。
引用
@article{arxiv.2110.13555,
title = {Directional Self-supervised Learning for Heavy Image Augmentations},
author = {Yalong Bai and Yifan Yang and Wei Zhang and Tao Mei},
journal= {arXiv preprint arXiv:2110.13555},
year = {2021}
}