用于鲁棒分类的对抗优化Mixup
机器学习
2021-03-23 v1 计算机视觉与模式识别
摘要
Mixup是一种数据增强方法，训练网络在数据点之间做出平滑插值的预测。对抗训练是一种强数据增强形式，在每个数据点周围的紧致空间内优化最坏情况预测，从而得到做出更鲁棒预测的神经网路。本文中，我们利用投影梯度下降(PGD)对数据点之间的空间进行对抗探查，将这些思想结合起来。本工作的基本方法是在训练期间通过mixup插值反向传播，优化网络做出不平滑且不一致预测的位置。此外，我们还探讨了若干修改与细微之处，如mixup比率的优化与几何标签分配，并讨论其对增强网络鲁棒性的影响。通过这些思想，我们得以训练出鲁棒泛化能力更优的网络；在CIFAR-10与CIFAR-100上的实验展示了对强对抗者（包括近期强集成攻击AutoAttack）的准确率一致提升。我们的源代码将发布以保证可复现性。
引用
@article{arxiv.2103.11589,
title = {Adversarially Optimized Mixup for Robust Classification},
author = {Jason Bunk and Srinjoy Chattopadhyay and B. S. Manjunath and Shivkumar Chandrasekaran},
journal= {arXiv preprint arXiv:2103.11589},
year = {2021}
}