基于受限对抗多面体学习的对抗攻击鲁棒性
机器学习
2024-01-23 v2 密码学与安全
摘要
深度神经网络（DNN）可能因人类不可察觉的干净样本扰动而受到欺骗。因此，增强DNN对抗攻击的鲁棒性是一项关键任务。本文旨在通过限制在干净样本上添加范数有界扰动后所能达到的输出集合来训练鲁棒的DNN。我们将该集合称为对抗多面体，每个干净样本都有一个对应的对抗多面体。实际上，如果所有样本的对应多面体都足够紧凑，以至于不与DNN的决策边界相交，那么该DNN对对抗样本具有鲁棒性。因此，我们算法的内部机制基于学习受限对抗多面体（CAP）。通过进行一系列全面的实验，我们证明了CAP在提升模型对抗最先进攻击（包括AutoAttack）的鲁棒性方面优于现有的对抗鲁棒性方法。
引用
@article{arxiv.2401.07991,
title = {Robustness Against Adversarial Attacks via Learning Confined Adversarial Polytopes},
author = {Shayan Mohajer Hamidi and Linfeng Ye},
journal= {arXiv preprint arXiv:2401.07991},
year = {2024}
}
备注
The paper has been accepted in ICASSP 2024