通过功耗旁路攻击打开 DNN 黑盒
密码学与安全
2019-07-25 v1 机器学习
摘要
深度神经网络正成为许多 AI 公司重要且有价值的资产。然而，最近的研究表明它们也容易受到对抗性攻击。对抗性攻击可以是白盒或黑盒的。白盒攻击假设对模型有完全了解，而黑盒攻击则假设毫无了解。通常，揭示更多内部信息可以实现更强大和高效的攻击。然而，在大多数实际应用中，嵌入式 AI 设备的内部信息是不可获取的，即它们是黑盒。因此，在这项工作中，我们提出了一种基于旁路信息的技术来揭示黑盒模型的内部信息。具体而言，我们做出了以下贡献：（1）我们首次使用旁路信息揭示嵌入式设备中的内部网络架构；（2）我们首次构建了用于内部参数估计的模型；（3）我们在真实设备与应用上验证了我们的方法。实验结果表明，我们的方法平均可达到 96.50% 的准确率。这些结果表明我们应高度重视许多 AI 应用的安全问题，并在未来进一步提出相应的防御策略。
引用
@article{arxiv.1907.10406,
title = {Open DNN Box by Power Side-Channel Attack},
author = {Yun Xiang and Zhuangzhi Chen and Zuohui Chen and Zebin Fang and Haiyang Hao and Jinyin Chen and Yi Liu and Zhefu Wu and Qi Xuan and Xiaoniu Yang},
journal= {arXiv preprint arXiv:1907.10406},
year = {2019}
}