评估自适应测试时防御的对抗鲁棒性
机器学习
2022-07-14 v2 密码学与安全
计算机视觉与模式识别
摘要
在测试时优化的自适应防御有望提升对抗鲁棒性。我们对此类自适应测试时防御进行分类，阐释其潜在优势与缺陷，并评估了图像分类中一系列具代表性的最新自适应防御。遗憾的是，在我们的细致案例研究评估下，没有一种相较静态防御有显著改进。有些甚至削弱了底层静态模型，同时增加了推理计算。尽管这些结果令人失望，我们仍认为自适应测试时防御是值得研究的有前景方向，并据此为其彻底评估提供建议。我们通过给出针对自适应防御的具体步骤，扩展了 Carlini 等人（2019）的核查清单。
引用
@article{arxiv.2202.13711,
title = {Evaluating the Adversarial Robustness of Adaptive Test-time Defenses},
author = {Francesco Croce and Sven Gowal and Thomas Brunner and Evan Shelhamer and Matthias Hein and Taylan Cemgil},
journal= {arXiv preprint arXiv:2202.13711},
year = {2022}
}
备注
ICML'22