针对对抗性逃避攻击的攻击树分析

最近，深度学习的发展促进了机器学习在各种系统中的应用。然而，存在一些ML系统，如自动驾驶汽车，当它们误分类时会造成严重损害。相反，存在基于ML系统特性的ML特定攻击，称为对抗性攻击。例如，一种对抗性攻击是逃避攻击，它使用称为“对抗性样本”的微小扰动来故意使分类器误分类。因此，有必要分析引入ML基础系统时ML特定攻击的风险。在本研究中，我们提出了一种使用攻击树分析逃避攻击风险的定量评估方法。所提出的方法包括对传统攻击树的扩展以分析逃避攻击，以及扩展的系统构建方法。在对传统攻击树的扩展中，我们引入了ML和传统攻击节点来表示逃避攻击的各种特征。在系统构建过程中，我们提出了一个构建攻击树的步骤。该步骤包括三个步骤：(1)将文献中关于攻击方法的信息组织成矩阵，(2)从矩阵中的方法识别逃避攻击场景，以及(3)使用模式从识别的场景构建攻击树。最后，我们在三个ML图像识别系统上进行了实验，以证明我们提出的方法的通用性和有效性。