一种用于改进自监督学习的简单数据混合先验
计算机视觉与模式识别
2022-06-16 v1
摘要
数据混合（例如 Mixup、Cutmix、ResizeMix）是推进识别模型的重要组成部分。在本文中，我们专注于研究其在自监督设置中的有效性。通过注意到共享相同源图像的混合图像彼此内在相关，我们由此提出 SDMP，即\textbf{S}imple \textbf{D}ata \textbf{M}ixing \textbf{P}rior（简单数据混合先验）的缩写，以捕获这一直接而关键的先验，并将此类混合图像定位为额外的\textbf{正样本对}（positive pairs）以促进自监督表示学习。我们的实验验证了所提出的 SDMP 使数据混合能够帮助一组自监督学习框架（例如 MoCo）实现更好的准确率和分布外鲁棒性。更值得注意的是，我们的 SDMP 是首个成功利用数据混合来改进（而非损害）自监督设置中 Vision Transformers 性能的方法。代码公开于 https://github.com/OliverRensu/SDMP
引用
@article{arxiv.2206.07692,
title = {A Simple Data Mixing Prior for Improving Self-Supervised Learning},
author = {Sucheng Ren and Huiyu Wang and Zhengqi Gao and Shengfeng He and Alan Yuille and Yuyin Zhou and Cihang Xie},
journal= {arXiv preprint arXiv:2206.07692},
year = {2022}
}
备注
CVPR2022