利用场景无关混合增强提升判别性视觉表征学习
计算机视觉与模式识别
2023-05-24 v3
摘要
Mixup 是一种众所周知的依赖于数据的数据增强技术，用于深度神经网络(DNNs)，包含两个子任务：mixup 生成与分类。然而，近期主流的在线训练方法将 mixup 局限于监督学习(SL)，且生成子任务的目标局限于所选样本对而非整个数据流形，这可能导致平凡解。为克服这些局限，我们全面研究了 mixup 生成的目标，并提出了适用于 SL 与自监督学习(SSL)场景的\textbf{场}\textbf{景}\textbf{无}\textbf{关}\textbf{Mix}up (SAMix)。具体而言，我们假设并验证了 mixup 生成的目标函数是在对其他类别全局可分辨的约束下，优化两个混合类别间的局部平滑性。相应地，我们提出了 -平衡 mixup 损失，用于两个子目标的互补学习。同时，设计了一个无标签的生成子网络，有效提供非平凡 mixup 样本并提升可迁移能力。此外，为降低在线训练的计算成本，我们进一步引入了预训练版本 SAMix，实现了更优的效率与泛化性。在九个 SL 和 SSL 基准上的大量实验证明了 SAMix 相比现有方法的一致优越性与通用性。
引用
@article{arxiv.2111.15454,
title = {Boosting Discriminative Visual Representation Learning with Scenario-Agnostic Mixup},
author = {Siyuan Li and Zicheng Liu and Zedong Wang and Di Wu and Zihan Liu and Stan Z. Li},
journal= {arXiv preprint arXiv:2111.15454},
year = {2023}
}
备注
Preprint version v3 with 9 pages main body and 8 pages appendix. The source code is available at \url{https://github.com/Westlake-AI/openmixup}