用于对比学习的自适应数据增强
计算机视觉与模式识别
2023-04-20 v2
摘要
在计算机视觉中,对比学习是最先进的无监督学习框架。然而,大多数先前方法简单地应用固定的数据增强组合以提高数据效率,忽略了其最优设置在训练过程中的变化。因此,预定义的增强操作参数并不能在整个训练期间始终很好地适配不断演进的网络,这降低了所学表征的质量。本工作中,我们提出 AdDA,其将闭环反馈结构实现于通用对比学习网络。AdDA 通过允许网络根据实时反馈自适应调整增强组合来工作。该在线调整有助于维持动态最优组合,并使网络以最小的计算开销获得更具泛化性的表征。AdDA 在 ImageNet-100 分类的常用线性协议下取得了有竞争力的结果(在 MoCo v2 上 +1.11%)。
引用
@article{arxiv.2304.02451,
title = {Adaptive Data Augmentation for Contrastive Learning},
author = {Yuhan Zhang and He Zhu and Shan Yu},
journal= {arXiv preprint arXiv:2304.02451},
year = {2023}
}
备注
Accepted by ICASSP 2023 (Oral)