基于水平协作的胶囊网络推理安全性分析
机器学习
2021-09-24 v1 密码学与安全
摘要
传统卷积神经网络(CNN)存在若干缺陷，如毕加索效应与池化层的信息丢失。胶囊网络(CapsNet)被提出以应对这些挑战，因为其架构能够编码并保留输入图像的空间朝向。与传统的CNN类似，CapsNet也易受若干恶意攻击，如文献中多位研究者所研究。然而，这些研究大多聚焦于基于单设备的推理，而最先进系统中的水平协作推理（如自动驾驶汽车、语音可控系统与无人机中的智能边缘服务）使多数此类分析失效。水平协作意味着将训练好的CNN模型或CNN任务划分至多个终端设备 or 边缘节点。因此，必须考察CapsNet部署于水平协作环境时针对恶意攻击的鲁棒性。为此，我们考察了水平协作环境中CapsNet遭受基于噪声的推理攻击时的鲁棒性。在此分析中，我们使用两类基于噪声的攻击（即高斯噪声攻击与FGSM噪声攻击）扰动四个DNN模型（即CapsNet、Mini-VGG、LeNet以及参数数量与CapsNet相同的内部设计CNN(ConvNet)）不同层的特征图。实验结果表明，与传统CNN类似，取决于攻击者对DNN层的访问权限，CapsNet的分类准确率显著下降。例如，当在CapsNet的DigitCap层执行高斯噪声攻击分类时，最大分类准确率下降约为97%。
引用
@article{arxiv.2109.11041,
title = {Security Analysis of Capsule Network Inference using Horizontal Collaboration},
author = {Adewale Adeyemo and Faiq Khalid and Tolulope A. Odetola and Syed Rafay Hasan},
journal= {arXiv preprint arXiv:2109.11041},
year = {2021}
}