通过模拟计算与合成梯度实现设计即鲁棒的对抗防御
计算机视觉与模式识别
2022-10-03 v1 机器学习
摘要
我们受光学协处理器启发，提出了一种新的对抗攻击防御机制，在白盒与黑盒设定下均能提供鲁棒性而不损害自然精度。该硬件协处理器执行非线性固定随机变换，其参数未知且对于足够大的维度无法以足够精度恢复。在白盒设定下，我们的防御通过混淆随机投影的参数来起作用。不同于其他依赖混淆梯度的防御，我们发现无法为混淆参数构建可靠的反向可微近似。此外，虽然我们的模型通过混合反向传播—合成梯度方法达到了良好的自然精度，但相同方法若用于生成对抗样本则是次优的。我们发现光学系统中随机投影与二值化的结合也提升了对各类黑盒攻击的鲁棒性。最后，我们的混合训练方法构建了针对迁移攻击的鲁棒特征。我们在类 VGG 架构上，将防御置于卷积特征之上，在 CIFAR-10 和 CIFAR-100 上演示了我们的方法。代码见 https://github.com/lightonai/adversarial-robustness-by-design。
引用
@article{arxiv.2101.02115,
title = {Adversarial Robustness by Design through Analog Computing and Synthetic Gradients},
author = {Alessandro Cappelli and Ruben Ohana and Julien Launay and Laurent Meunier and Iacopo Poli and Florent Krzakala},
journal= {arXiv preprint arXiv:2101.02115},
year = {2022}
}