对抗补丁的认证防御
密码学与安全
2020-09-28 v2 机器学习
机器学习
摘要
对抗补丁攻击是针对现实世界计算机视觉系统最实用的威胁模型之一。本文研究针对补丁攻击的认证防御与经验性防御。我们首先进行了一组实验，表明大多数现有的通过预处理输入图像来减轻对抗补丁的防御方法，很容易被简单的白盒对手攻破。受此发现的启发，我们提出了首个针对补丁攻击的认证防御，并提出了更快速的训练方法。此外，我们使用不同的补丁形状进行测试实验，获得了跨形状令人惊讶的良好鲁棒性迁移，并给出了针对稀疏攻击的认证防御的初步结果。我们的完整实现可在 https://github.com/Ping-C/certifiedpatchdefense 找到。
引用
@article{arxiv.2003.06693,
title = {Certified Defenses for Adversarial Patches},
author = {Ping-Yeh Chiang and Renkun Ni and Ahmed Abdelkader and Chen Zhu and Christoph Studer and Tom Goldstein},
journal= {arXiv preprint arXiv:2003.06693},
year = {2020}
}
备注
International Conference on Learning Representations, ICLR 2020