通过基于分数的优化增强对抗鲁棒性
机器学习
2023-10-31 v3 人工智能
密码学与安全
摘要
对抗攻击有可能通过引入微小扰动来误导深度神经网络分类器。开发能够缓解这些攻击影响的算法对于确保人工智能的安全使用至关重要。近期研究表明，基于分数的扩散模型在对抗防御中十分有效。然而，现有的基于扩散的防御依赖于对扩散模型反向随机微分方程的顺序模拟，这在计算上效率低下且结果次优。在本文中，我们提出了一种名为 ScoreOpt 的新型对抗防御方案，该方案在测试时利用基于分数的先验所引导的方向，将对抗样本向原始干净数据优化。我们在包括 CIFAR10、CIFAR100 和 ImageNet 在内的多个数据集上进行了全面实验。实验结果表明，我们的方法在鲁棒性性能和推理速度方面均优于现有的对抗防御方法。
引用
@article{arxiv.2307.04333,
title = {Enhancing Adversarial Robustness via Score-Based Optimization},
author = {Boya Zhang and Weijian Luo and Zhihua Zhang},
journal= {arXiv preprint arXiv:2307.04333},
year = {2023}
}
备注
NeurIPS 2023