AutoMix:揭示Mixup增强对更强分类器的威力
计算机视觉与模式识别
2022-09-23 v6 人工智能
摘要
数据混合增强已被证明能有效提升深度神经网络的泛化能力。早期方法通过手工策略(如线性插值)混合样本,近期方法利用显著性信息通过复杂离线优化来匹配混合样本与标签。然而,精确混合策略与优化复杂度之间存在权衡。为应对该挑战,我们提出一种新颖的自动混合(AutoMix)框架,其中混合策略被参数化并直接服务于最终分类目标。具体而言,AutoMix将混合分类重构为两个子任务(即混合样本生成与混合分类),由相应子网络在双层优化框架下求解。在生成方面,设计可学习的轻量混合生成器Mix Block,通过在对应混合标签的直接监督下建模块级关系来生成混合样本。为防止双层优化的退化与不稳定,我们进一步引入动量流水线以端到端方式训练AutoMix。在九个图像基准上的大量实验证明了AutoMix相较SOTA在各种分类场景与下游任务中的优越性。
引用
@article{arxiv.2103.13027,
title = {AutoMix: Unveiling the Power of Mixup for Stronger Classifiers},
author = {Zicheng Liu and Siyuan Li and Di Wu and Zihan Liu and Zhiyuan Chen and Lirong Wu and Stan Z. Li},
journal= {arXiv preprint arXiv:2103.13027},
year = {2022}
}
备注
ECCV 2022 (Oral presentation paper). Updated version. The source code is available at https://github.com/Westlake-AI/openmixup