面向对抗训练的引导插值框架
机器学习
2021-02-16 v1
摘要
为增强对抗鲁棒性，对抗训练在其自然数据生成的对抗变体上学习深度神经网络。然而，随着训练推进，训练数据变得愈发难以被攻击，削弱了鲁棒性的提升。一种直接的补救措施是引入更多训练数据，但有时会带来难以承受的成本。本文为缓解该问题，提出引导插值框架（GIF）：在每一轮中，GIF利用上一轮的元信息来引导数据插值。与原始mixup相比，GIF能提供更髙比例的易攻击数据，有利于鲁棒性增强；同时它缓解了模型在类间的线性行为，而该线性行为有利于泛化却不利于鲁棒性。因此，GIF鼓励模型在每个类的簇中保持不变地预测。实验表明，GIF确实能在多种对抗训练方法与多种数据集上增强对抗鲁棒性。
引用
@article{arxiv.2102.07327,
title = {Guided Interpolation for Adversarial Training},
author = {Chen Chen and Jingfeng Zhang and Xilie Xu and Tianlei Hu and Gang Niu and Gang Chen and Masashi Sugiyama},
journal= {arXiv preprint arXiv:2102.07327},
year = {2021}
}