面向深度学习系统的安全威胁：一项综述

深度学习在过去几年中取得了巨大成功并广受欢迎。然而，深度学习系统存在若干固有弱点，这些弱点会威胁学习模型的安全性。深度学习的广泛应用进一步放大了影响与后果。为此，已有大量研究旨在详尽识别内在弱点并进而提出可行的缓解措施。但鲜有研究厘清这些弱点如何产生，以及这些攻击方法在攻击深度学习时效果如何。为揭示安全弱点并助力构建鲁棒的深度学习系统，我们对针对深度学习的攻击展开调研，并分析这些攻击以从多个视角总结出若干发现。具体而言，我们聚焦于与深度学习安全威胁相关的四类攻击：模型提取攻击、模型反演攻击、投毒攻击与对抗攻击。对于每类攻击，我们构建其本质工作流程以及敌手能力与攻击目标。设计了关键指标用于比较攻击方法，并据此进行定量与定性分析。从分析中，我们识别出攻击向量中显著且不可或缺的因素，例如如何减少对目标模型的查询、应使用何种距离度量扰动。我们阐明了涵盖这些方法优缺点、成功概率、部署复杂度与前景的 18 项发现。此外，我们讨论了其他潜在安全弱点与可能的缓解措施，以启发该领域的相关研究。