对抗严重度的层次化评估
机器学习
2021-08-27 v1 计算机视觉与模式识别
摘要
对抗鲁棒性是一个不断发展的领域，揭示了神经网络的脆弱性。尽管关于对抗鲁棒性的文献浩如烟海，这些研究中缺失一个维度：评估错误的严重程度。我们称此概念为“对抗严重度”（Adversarial Severity），因为它通过计算误分类与正确标签之间的语义误差来量化对抗扰动的下游影响。我们提出通过在一个大规模数据集 iNaturalist-H 上测量鲁棒性（Robustness）与严重度（Severity）来研究对抗噪声的影响。我们的贡献为：(i) 我们引入了新的层次化攻击（Hierarchical Attacks），利用丰富的结构化标签空间来制造对抗样本。(ii) 这些攻击使我们能够对分类模型的对抗鲁棒性与严重度进行基准测试。(iii) 我们用一种简单而有效的层次化课程训练（Hierarchical Curriculum Training）来增强传统的对抗训练，以在层次树中逐步学习这些节点。我们进行了大量实验，表明层次化防御可使深度模型将对抗鲁棒性平均提升 1.85%，并将所有攻击的严重度平均降低 0.17。
引用
@article{arxiv.2108.11785,
title = {A Hierarchical Assessment of Adversarial Severity},
author = {Guillaume Jeanneret and Juan C Perez and Pablo Arbelaez},
journal= {arXiv preprint arXiv:2108.11785},
year = {2021}
}
备注
To appear on the ICCV2021 Workshop on Adversarial Robustness in the Real World