一种针对堆叠胶囊自编码器的规避攻击
机器学习
2021-12-21 v5 密码学与安全
摘要
胶囊网络是一类利用特征间空间关系对图像进行分类的神经网络。通过捕捉特征的姿态与相对位置，其识别仿射变换的能力得到提升，并在处理平移、旋转和缩放时超越传统卷积神经网络（CNN）。堆叠胶囊自编码器（SCAE）是最先进的胶囊网络。SCAE将图像编码为胶囊，每个胶囊包含特征的姿态及其关联。编码内容随后输入下游分类器以预测图像类别。现有研究主要关注具有动态路由或EM路由的胶囊网络的安全性，对SCAE的安全性和鲁棒性关注甚少。本文提出一种针对SCAE的规避攻击。基于模型中目标胶囊的输出生成扰动后，将其叠加到图像上，以降低与图像原始类别相关的目标胶囊的贡献，从而使扰动图像被误分类。我们通过图像分类实验评估该攻击，实验结果表明该攻击可实现高成功率和隐蔽性。这证实了SCAE存在安全漏洞，即有可能在不改变图像原始结构的情况下构造对抗样本以欺骗分类器。我们希望本工作能使学界意识到该攻击的威胁，并提升对SCAE安全性的关注。
引用
@article{arxiv.2010.07230,
title = {An Evasion Attack against Stacked Capsule Autoencoder},
author = {Jiazhu Dai and Siwei Xiong},
journal= {arXiv preprint arXiv:2010.07230},
year = {2021}
}