LatentPoison——针对隐空间的对抗攻击
机器学习
2017-11-09 v1 密码学与安全
摘要
机器学习（ML）系统的鲁棒性与安全性密不可分，其中非鲁棒ML系统（分类器、回归器等）可能受到多种漏洞的攻击。随着可扩展深度学习方法的出现，监督、无监督与强化学习算法的鲁棒性受到高度重视。此处，我们研究深度变分自编码器（dVAE）这一无监督生成框架的隐空间的鲁棒性，表明确实可能扰动隐空间、翻转类别预测，并使攻击前后分类概率大致相等。这意味着观察解码器输出的智能体将对攻击毫无察觉。
引用
@article{arxiv.1711.02879,
title = {LatentPoison - Adversarial Attacks On The Latent Space},
author = {Antonia Creswell and Anil A. Bharath and Biswa Sengupta},
journal= {arXiv preprint arXiv:1711.02879},
year = {2017}
}
备注
Submitted to ICLR 2018