StackMix:一种互补的 Mix 算法
计算机视觉与模式识别
2021-03-18 v2 机器学习
摘要
将多幅图像组合作为输入/输出的技术已被证明是训练卷积神经网络的有效数据增强方法。本文提出 StackMix:每个输入由两幅图像拼接而成,标签为两个 one-hot 标签的均值。单独使用时,StackMix 可与“Mix”系列中其他广泛使用的方法相媲美。更重要的是,与以往工作不同,通过将 StackMix 与现有 Mix 增强结合,可在多种基准上取得显著提升,有效地混合了多于两幅的图像。例如,将 StackMix 与 CutMix 结合,在有监督设定下相比 CutMix 在多种设定中降低了测试误差,包括在 ImageNet 上降低 0.8%、Tiny ImageNet 上 3%、CIFAR-100 上 2%、CIFAR-10 上 0.5%、STL-10 上 1.5%。与 Mixup 结合也取得了类似结果。我们进一步表明,通过将 StackMix 与 AugMix 结合(相较于 AugMix),在常见输入损坏与不同强度扰动下的鲁棒性提升也成立,在 CIFAR-100-C 上提升 0.7%。单独使用时,StackMix 在 CIFAR-100 上不同标注样本数量下均保持提升,测试准确率维持约 2% 的差距——即便仅使用全部数据集的 5%——并且在半监督设定下使用标准基准 -model 取得 2% 的提升。最后,我们进行了广泛的消融实验以更好地理解所提算法。
引用
@article{arxiv.2011.12618,
title = {StackMix: A complementary Mix algorithm},
author = {John Chen and Samarth Sinha and Anastasios Kyrillidis},
journal= {arXiv preprint arXiv:2011.12618},
year = {2021}
}