Puzzle Mix:利用显著性与局部统计实现最优Mixup
机器学习
2021-01-01 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
尽管深度神经网络在拟合训练分布上取得了优异性能,但所学网络易于过拟合且易受对抗攻击。对此,近来提出了若干基于mixup的增强方法。然而,这些方法主要聚焦于创建此前未见的虚拟样本,有时会给网络提供误导性的监督信号。为此,我们提出Puzzle Mix,一种显式利用自然样本的显著性信息和底层统计的mixup方法。这引出了一个有趣的交替优化问题:介于最优混合掩码的多标签目标与显著性折扣最优传输目标之间。我们的实验表明,Puzzle Mix在CIFAR-100、Tiny-ImageNet和ImageNet数据集上相较于其他mixup方法取得了最先进的泛化与对抗鲁棒性结果。源代码可在 https://github.com/snu-mllab/PuzzleMix 获取。
引用
@article{arxiv.2009.06962,
title = {Puzzle Mix: Exploiting Saliency and Local Statistics for Optimal Mixup},
author = {Jang-Hyun Kim and Wonho Choo and Hyun Oh Song},
journal= {arXiv preprint arXiv:2009.06962},
year = {2021}
}
备注
Published at ICML 2020