当侧信道攻击打破嵌入式人工智能的黑盒特性

人工智能，特别是深度神经网络（DNNs），在过去十年中迅速成为从定向广告到目标检测等多项任务的标准。其所提供的性能使得 DNN 算法成为关键嵌入式系统的一部分，这些系统同时要求效率与可靠性。具体而言，DNN 易受到对抗样本的攻击，这类样本被设计用来欺骗网络且对人类观察者不可察觉。虽然先前的研究提出了在黑盒设定下实施此类攻击的框架，但它们通常依赖于攻击者能够访问神经网络 logits（对数几率）的假设，从而打破了传统黑盒的假定。在本文中，我们研究了一种真实的黑盒场景，其中攻击者无法访问 logits。特别地，我们提出了一种与架构无关的攻击方法，通过提取 logits 来解决该约束。我们的方法结合了硬件与软件攻击，通过执行利用电磁泄漏提取给定输入 logits 的侧信道攻击，使攻击者能够估计梯度并生成最先进的对抗样本以欺骗目标神经网络。通过这一对抗攻击实例，我们展示了使用侧信道提取 logits 作为需要 logits 或置信度分数的更通用攻击框架第一步的有效性。