SelfAugment:面向自监督学习的自动数据增强策略
计算机视觉与模式识别
2021-05-18 v3 机器学习
摘要
在无监督表示学习中,一种常见做法是使用带标签数据来评估所学表示的质量。然后该有监督评估被用于指导训练过程的关键方面,例如选择数据增强策略。然而,对于实际不包含标签的真实世界数据(例如医疗影像等隐私敏感领域可能如此),通过有监督评估来指导无监督训练过程是不可能的。因此,在本文中我们表明,使用自监督图像旋转任务评估所学表示与一组标准的有监督评估高度相关(秩相关 )。我们在数百种增强策略、训练设置和神经网络架构上确立了该相关性,并提供了一种算法(SelfAugment)以在不使用有监督评估的情况下自动且高效地选择增强策略。尽管未使用任何标注数据,所学增强策略的性能与通过穷举有监督评估确定的增强策略相当。
引用
@article{arxiv.2009.07724,
title = {SelfAugment: Automatic Augmentation Policies for Self-Supervised Learning},
author = {Colorado J Reed and Sean Metzger and Aravind Srinivas and Trevor Darrell and Kurt Keutzer},
journal= {arXiv preprint arXiv:2009.07724},
year = {2021}
}
备注
Computer Vision and Pattern Recognition (CVPR), 2021