关于李雅普诺夫指数与对抗扰动
计算机视觉与模式识别
2018-02-21 v1 机器学习
神经与进化计算
摘要
在本文中，我们拟分享一个偶然发现，涉及一维时间序列的李雅普诺夫指数及其用作针对特定一类深度对抗扰动的滤波防御工具。为此，我们使用最先进的 CleverHans 库来生成针对在 MNIST 以及 Fashion-MNIST 数据集上训练的标准卷积神经网络（CNN）架构的对抗扰动。我们实证展示了在图像的展平一维向量表示上计算的李雅普诺夫指数如何作为高度判别性特征，可在将图像送入 CNN 分类前将其预分类为对抗性或合法性。我们还探讨了当输入图像在非对抗意义下含噪时可能出现的误报问题。
引用
@article{arxiv.1802.06927,
title = {On Lyapunov exponents and adversarial perturbation},
author = {Vinay Uday Prabhu and Nishant Desai and John Whaley},
journal= {arXiv preprint arXiv:1802.06927},
year = {2018}
}