基于自动构建攻击集的可靠鲁棒性评估
机器学习
2022-11-24 v1 密码学与安全
神经与进化计算
摘要
攻击集成(Attack Ensemble, AE)将多种攻击组合在一起,为评估对抗鲁棒性提供了一种可靠方法。在实践中,AE通常由人类专家构建和调优,但这往往次优且耗时。本工作中,我们提出 AutoAE,一种用于自动构建 AE 的概念上简单的方法。简言之,AutoAE 反复将攻击及其迭代步数添加到集成中,以最大化每消耗一次额外迭代所带来的集成改进。我们从理论上证明,对于给定的防御,AutoAE 产生的 AE 在最优解的常数因子范围内可证明成立。随后我们使用 AutoAE 为 和 攻击构建两个 AE,并在不进行任何调优或适配的情况下将其应用于 RobustBench 排行榜上的 45 种顶级对抗防御。除一种情况外,我们在所有情况下都取得了与现有 AE 相等或更好(常为后者)的鲁棒性评估,值得注意的是,在 29 种情况下我们取得了比已知最佳更好的鲁棒性评估。AutoAE 的此类性能使其自身成为一种可靠的对抗鲁棒性评估协议,进一步表明了自动 AE 构建的巨大潜力。代码见 \url{https://github.com/LeegerPENG/AutoAE}。
引用
@article{arxiv.2211.12713,
title = {Reliable Robustness Evaluation via Automatically Constructed Attack Ensembles},
author = {Shengcai Liu and Fu Peng and Ke Tang},
journal= {arXiv preprint arXiv:2211.12713},
year = {2022}
}