Spartan网络：用于提升对抗环境下鲁棒性的自特征压缩神经网络
机器学习
2018-12-18 v1 密码学与安全
摘要
深度学习模型易受对抗样本攻击，对抗样本是经过修改以使系统误差最大化的输入样本。我们提出Spartan网络，一种无需输入预处理或对抗训练的抗性深度神经网络。这些网络具有一个对抗层，旨在丢弃网络的某些信息，从而迫使系统聚焦于相关输入。这是通过使用一种新的激活函数来丢弃数据实现的。所增加的层训练神经网络滤除其输入中通常无关的部分。我们的性能评估表明，与无保护模型相比，Spartan网络的精度略低，但在攻击下的鲁棒性更高。这项将对抗性AI作为新攻击向量的研究基于在MNIST数据集上进行的测试。
引用
@article{arxiv.1812.06815,
title = {Spartan Networks: Self-Feature-Squeezing Neural Networks for increased robustness in adversarial settings},
author = {François Menet and Paul Berthier and José M. Fernandez and Michel Gagnon},
journal= {arXiv preprint arXiv:1812.06815},
year = {2018}
}
备注
Poster previously accepted at ACM CCS 2018 Toronto, Submitted to Computers & Security