超越“翻转标签”的对抗愚弄
计算机视觉与模式识别
2020-04-28 v1
摘要
CNN 近年的进展在各类 CV/AI 应用中展现出卓越成就。尽管 CNN 在许多关键任务中表现出接近或超越人类的性能，它们对对抗攻击相当脆弱。这些攻击在现实部署中潜在危险。尽管近年提出了许多对抗攻击，尚无恰当方式量化这些攻击的有效性。迄今，仅以愚弄率来衡量模型的易感性或对抗攻击的有效性。愚弄率仅考虑标签翻转且不考虑此类翻转的代价，例如在某些部署中，两种狗类间的翻转可能不如将狗类别与车辆类别混淆那样严重。因此，量化模型脆弱性的指标也应捕捉翻转的严重程度。本工作中我们首先指出已有评估的缺陷并提出捕捉愚弄各方面新颖指标。此外，我们首次对一组不同 CNN 架构上的若干重要对抗攻击进行了综合分析。我们相信所呈现的分析为当前对抗攻击与 CNN 模型提供了有价值的见解。
引用
@article{arxiv.2004.12771,
title = {Adversarial Fooling Beyond "Flipping the Label"},
author = {Konda Reddy Mopuri and Vaisakh Shaj and R. Venkatesh Babu},
journal= {arXiv preprint arXiv:2004.12771},
year = {2020}
}
备注
CVPR-AMLCV-2020