计算机视觉模型的黑盒对抗攻击综述
机器学习
2020-02-10 v3 密码学与安全
计算机视觉与模式识别
机器学习
摘要
机器学习在过去几年取得了巨大进展，使得深度学习模型被部署于日常生活的多种应用中。使用扰动对此类模型进行攻击，尤其在真实场景中对它们的适用性构成严峻挑战，推动研究朝向旨在增强这些模型鲁棒性的方向。在 Szegedy 等人 [1] 引入这些扰动后，大量研究聚焦于此类模型的可靠性，主要在两方面——白盒，即 adversary 可访问目标模型及相关参数；以及黑盒，其类似于真实场景，adversary 几乎不知晓待攻击模型。为提供全面的安全覆盖，识别、研究并构建针对此类攻击的防御至关重要。因此，在本文中，我们提议对各类黑盒对抗攻击与防御技术进行全面的比较研究。
引用
@article{arxiv.1912.01667,
title = {A Survey of Black-Box Adversarial Attacks on Computer Vision Models},
author = {Siddhant Bhambri and Sumanyu Muku and Avinash Tulasi and Arun Balaji Buduru},
journal= {arXiv preprint arXiv:1912.01667},
year = {2020}
}
备注
33 pages