对变分自编码器的对抗攻击
计算机视觉与模式识别
2018-06-13 v1 机器学习
神经与进化计算
摘要
对抗攻击是使机器学习模型偏离轨道的恶意输入。我们提出了一种攻击自编码器的方案，以及一个与攻击的定性评估高度相关的定量评估框架。我们通过统计验证的实验评估了三种变分自编码器（简单的、卷积的和 DRAW）在三个数据集（MNIST、SVHN、CelebA）中对攻击的抵抗能力，表明 DRAW 的循环和注意力机制都带来了更好的抵抗能力。由于自编码器被提议用于压缩数据——在这种场景中其安全性至关重要——我们期望未来会有更多针对其对抗攻击的关注。
引用
@article{arxiv.1806.04646,
title = {Adversarial Attacks on Variational Autoencoders},
author = {George Gondim-Ribeiro and Pedro Tabacof and Eduardo Valle},
journal= {arXiv preprint arXiv:1806.04646},
year = {2018}
}