OpenMixup:面向视觉表征学习的开放 Mixup 工具箱与基准
计算机视觉与模式识别
2024-10-08 v3
摘要
Mixup 增强已成为一种广泛使用的技术,用于提升深度神经网络(DNNs)的泛化能力。然而,缺乏标准化实现与基准阻碍了近期进展,导致可复现性差、比较不公平以及相互矛盾的见解。本文中,我们介绍 OpenMixup,首个面向视觉表征学习的 mixup 增强代码库与基准。具体而言,我们从头训练 18 个代表性 mixup 基线,并在 11 个不同规模与粒度的图像数据集上严格评估,涵盖从细粒度场景到复杂非图标式场景。我们还开源了模块化代码库,包含流行视觉骨干网络、优化策略与分析工具集,不仅支持基准测试,也支持分类之外的更广泛 mixup 应用,如自监督学习与回归任务。通过实验与实证分析,我们获得了关于 mixup 性能-效率权衡、泛化与优化行为的观察与见解,从而确定了针对不同需求的首选方案。据我们所知,OpenMixup 已助力若干近期研究。我们相信本工作能进一步推动可复现的 mixup 增强研究,并为社区未来进展奠定坚实基础。源代码与用户文档见 \url{https://github.com/Westlake-AI/openmixup}。
引用
@article{arxiv.2209.04851,
title = {OpenMixup: Open Mixup Toolbox and Benchmark for Visual Representation Learning},
author = {Siyuan Li and Zedong Wang and Zicheng Liu and Juanxi Tian and Di Wu and Cheng Tan and Weiyang Jin and Stan Z. Li},
journal= {arXiv preprint arXiv:2209.04851},
year = {2024}
}
备注
Preprint V3. The source code is available at https://github.com/Westlake-AI/openmixup