学习生成噪声以实现多攻击鲁棒性
机器学习
2021-06-28 v4 密码学与安全
计算机视觉与模式识别
机器学习
摘要
对抗学习已成为成功的技术之一，用于规避现有方法对对抗扰动的易感性。然而，现有的防御方法大多是为防御单一类别的对抗扰动（例如 -attack）而定制的。在安全攸关的应用中，这使得这些方法显得多余，因为攻击者可以采用多种对抗手段来欺骗系统。此外，在多种扰动上同时进行训练会显著增加训练期间的计算开销。为了应对这些挑战，我们提出了一种新颖的元学习框架，该框架显式地学习生成噪声，以提高模型对多种类型攻击的鲁棒性。其关键组件是元噪声生成器（MNG），它输出最优噪声以随机扰动给定样本，从而有助于降低在多种对抗扰动上的错误率。通过利用MNG生成的样本，我们通过在多种扰动间强制标签一致性来训练模型。我们在各种数据集上并针对多种扰动验证了由我们方案训练的模型的鲁棒性，结果表明它在多种扰动上以边际计算成本显著优于基线方法。
引用
@article{arxiv.2006.12135,
title = {Learning to Generate Noise for Multi-Attack Robustness},
author = {Divyam Madaan and Jinwoo Shin and Sung Ju Hwang},
journal= {arXiv preprint arXiv:2006.12135},
year = {2021}
}
备注
Accepted to ICML 2021. Code available at https://github.com/divyam3897/MNG_AC