雅可比集成方法改善对抗攻击下的鲁棒性权衡
机器学习
2022-04-20 v1 密码学与安全
计算机视觉与模式识别
摘要
深度神经网络已成为我们软件基础设施的重要组成部分，并被部署于许多广泛使用且安全关键的应用中。然而，它们与许多系统的集成也带来了在测试时遭受通用对抗扰动（UAPs）攻击的脆弱性。UAPs 是一类施加于任意输入都会导致模型误分类的扰动。尽管目前持续有防御此类对抗攻击的努力，但往往难以调和模型准确率与对抗攻击鲁棒性之间的权衡。雅可比正则化已被证明可提升模型对 UAPs 的鲁棒性，而模型集成则被广泛采用以改善预测性能与模型鲁棒性。本工作中，我们提出一种新方法——雅可比集成（Jacobian Ensembles），即雅可比正则化与模型集成的结合，以在保持或提升模型准确率的同时显著增强对 UAPs 的鲁棒性。我们的结果表明，雅可比集成达到了此前未见的准确率与鲁棒性水平，大幅优于那些往往仅偏向准确率或鲁棒性其中之一的前期方法。
引用
@article{arxiv.2204.08726,
title = {Jacobian Ensembles Improve Robustness Trade-offs to Adversarial Attacks},
author = {Kenneth T. Co and David Martinez-Rego and Zhongyuan Hau and Emil C. Lupu},
journal= {arXiv preprint arXiv:2204.08726},
year = {2022}
}