基于扩散的对抗净化方法的鲁棒性评估
计算机视觉与模式识别
2023-12-05 v3 密码学与安全
机器学习
摘要
我们质疑当前基于扩散的净化方法的评估实践。基于扩散的净化方法旨在测试时从输入数据点中移除对抗效应。由于训练与测试的解耦，该方法作为对抗训练的一种替代方案受到越来越多的关注。著名的白盒攻击常被用于衡量净化的鲁棒性。然而，由于这些攻击通常针对对抗训练量身定制，尚不清楚它们对基于扩散的净化是否最有效。我们分析了当前的实践并提供了衡量净化方法对抗攻击鲁棒性的新指南。基于我们的分析，我们进一步提出了一种相较于当前基于扩散的净化方法能改善鲁棒性的新净化策略。
引用
@article{arxiv.2303.09051,
title = {Robust Evaluation of Diffusion-Based Adversarial Purification},
author = {Minjong Lee and Dongwoo Kim},
journal= {arXiv preprint arXiv:2303.09051},
year = {2023}
}
备注
Accepted by ICCV 2023, oral presentation. Code is available at https://github.com/ml-postech/robust-evaluation-of-diffusion-based-purification