基于分数生成模型的对抗净化
机器学习
2021-06-14 v1 密码学与安全
摘要
虽然对抗训练被视为图像分类器抵御对抗攻击的标准防御方法,但对抗净化——利用独立的净化模型将受攻击图像净化为干净图像——已作为一种替代防御方法展现出前景。近来,用马尔可夫链蒙特卡洛(MCMC)训练的基于能量的模型(EBM)作为净化模型受到关注,其中受攻击图像通过使用 EBM 的梯度运行长马尔可夫链来净化。然而,使用 EBM 的对抗净化的实用性仍存疑,因为此类净化所需的 MCMC 步数过多。本文中,我们提出一种基于用去噪分数匹配(DSM)训练的 EBM 的新型对抗净化方法。我们表明,用 DSM 训练的 EBM 能在几步内快速净化受攻击图像。我们进一步引入一种简单而有效的随机净化方案,在净化前向图像注入随机噪声。该过程以随机噪声屏蔽施加在图像上的对抗扰动,并将图像带入 EBM 能良好去噪的区间。我们表明我们的净化方法对多种攻击具有鲁棒性,并展示了其最先进的性能。
引用
@article{arxiv.2106.06041,
title = {Adversarial purification with Score-based generative models},
author = {Jongmin Yoon and Sung Ju Hwang and Juho Lee},
journal= {arXiv preprint arXiv:2106.06041},
year = {2021}
}
备注
ICML 2021