感知对齐梯度是否意味着对抗鲁棒性？
计算机视觉与模式识别
2023-08-10 v3
摘要
对抗鲁棒分类器拥有非鲁棒模型所不具备的一个特性——感知对齐梯度（PAG）。它们相对于输入的梯度与人类的感知良好对齐。若干工作已确认 PAG 是鲁棒训练的副产品，但尚无研究将其视为独立现象或探讨其自身含义。在本工作中，我们聚焦于该特性并检验“感知对齐梯度是否意味着鲁棒性”。为此，我们开发了一种新颖的目标函数，在训练分类器中直接促进 PAG，并考察具有此类梯度的模型是否对对抗攻击更具鲁棒性。在多个数据集和架构上的大量实验验证了具有对齐梯度的模型表现出显著的鲁棒性，揭示了 PAG 与鲁棒性之间令人惊讶的双向联系。最后，我们展示了更好的梯度对齐会带来增强的鲁棒性，并利用这一观察来提升现有对抗训练技术的鲁棒性。
引用
@article{arxiv.2207.11378,
title = {Do Perceptually Aligned Gradients Imply Adversarial Robustness?},
author = {Roy Ganz and Bahjat Kawar and Michael Elad},
journal= {arXiv preprint arXiv:2207.11378},
year = {2023}
}