穿透有缺陷的对抗性示例防御：修复一行代码即可破坏 Sabre
密码学与安全
2024-07-02 v3 机器学习
摘要
Sabre 是一种针对对抗性示例的防御方法，已在 IEEE S&P 2024 上接受录取。我们首先揭示了该评估中存在的显著缺陷，表明存在明显的梯度遮蔽迹象。随后，我们指出导致这种梯度遮蔽的根本原因：原始评估代码中的一个错误。通过修复原始存储库中的一行代码，我们将 Sabre 的鲁棒准确率降至 0%。针对此反馈，作者修改了该防御方法并引入了一个未在原论文中描述的新型防御组件。但该修复仍包含第二个错误；修改一行代码后，鲁棒准确率降至低于基准水平。我们在首次公开论文后，作者对防御方法进行了另一修改；通过注释攻击期间的一行代码，我们再次将鲁棒准确率降至 0%。
引用
@article{arxiv.2405.03672,
title = {Cutting through buggy adversarial example defenses: fixing 1 line of code breaks Sabre},
author = {Nicholas Carlini},
journal= {arXiv preprint arXiv:2405.03672},
year = {2024}
}