2D 与 3D 深度学习模型对抗攻击鲁棒性与安全性综述
机器学习
2023-10-03 v1 人工智能
摘要
受益于深度学习的快速发展，2D 和 3D 计算机视觉应用已部署于许多安全关键系统中，如自动驾驶与身份认证。然而，深度学习模型因其对抗攻击的鲁棒性有限而不足以值得信赖。物理可实现的对抗攻击进一步对应用与人身安全构成致命威胁。大量论文涌现以研究深度学习模型对抗攻击的鲁棒性与安全性。为通向可信 AI，我们首先从不同视角构建通用威胁模型，然后全面综述 2D 与 3D 对抗攻击的最新进展。我们将对抗样本的概念扩展到不可感知扰动之外，并整理超过 170 篇论文以概述深度学习模型针对各类对抗攻击的鲁棒性。据我们所知，我们首个系统研究 3D 模型的对抗攻击，这是一个应用于许多真实世界应用的蓬勃发展领域。此外，我们考察了导致安全违规的物理对抗攻击。最后但同样重要的是，我们总结当前热门主题，给出挑战见解，并启示可信 AI 的未来研究。
引用
@article{arxiv.2310.00633,
title = {A Survey of Robustness and Safety of 2D and 3D Deep Learning Models Against Adversarial Attacks},
author = {Yanjie Li and Bin Xie and Songtao Guo and Yuanyuan Yang and Bin Xiao},
journal= {arXiv preprint arXiv:2310.00633},
year = {2023}
}
备注
Submitted to CSUR