面向鲁棒堆叠胶囊自编码器的混合对抗训练
计算机视觉与模式识别
2022-03-02 v2 人工智能
摘要
胶囊网络（CapsNets）是一类基于特征空间关系对图像进行分类的新型神经网络。通过分析特征的姿态及其相对位置，其更能识别经过仿射变换后的图像。堆叠胶囊自编码器（SCAE）是一种最先进的胶囊网络，并首次实现了胶囊网络的无监督分类。然而，SCAE的安全性漏洞与鲁棒性很少被探究。本文中，我们提出一种针对SCAE的规避攻击，攻击者可根据降低SCAE中与图像原始类别相关的对象胶囊的贡献来生成对抗扰动。随后将这些对抗扰动施加于原始图像，使扰动后的图像被误分类。此外，我们提出一种称为混合对抗训练（HAT）的防御方法来抵御此类规避攻击。HAT利用对抗训练与对抗蒸馏以实现更好的鲁棒性与稳定性。我们对该防御方法进行了评估，实验结果表明精炼后的SCAE模型在规避攻击下可达到82.14%的分类准确率。源代码见 https://github.com/FrostbiteXSW/SCAE_Defense。
引用
@article{arxiv.2202.13755,
title = {Towards Robust Stacked Capsule Autoencoder with Hybrid Adversarial Training},
author = {Jiazhu Dai and Siwei Xiong},
journal= {arXiv preprint arXiv:2202.13755},
year = {2022}
}